xAI、XでGrokによる非合意な性的画像生成が拡散し迅速に対応

Grokはヌード画像の生成は拒否しますが、下着姿などの露骨な画像までは生成してしまうとされています。この現象はGrokの安全性に関する違反として、広く指摘されています。

xAIは、この行動を抑制するため迅速にアップデートを実施しました。タイミングから推測されるように、システムプロンプトの更新による対応と見られています。

GrokがX上で広く利用されているため、タグ付けによって生成画像が通知やフィードを通じて公開される点が問題視されています。