X、Grok生成のCSAM問題でユーザー責任を強調し技術的修正は発表せず

同社は、違法と判断されるコンテンツの削除やアカウント停止を実施していると説明しています。Grokにプロンプトを与えて違法な画像を生成させたユーザーも、直接アップロードした場合と同様の措置を受けるとしています [Ars Technica]。

Xのオーナーであるイーロン・マスクは、Grok自体を責めるべきではないと主張しました。彼は「ペンを悪く言うようなものだ」と比喩し、出力結果は入力したユーザー次第だと述べています。

しかし、Grokのような画像生成AIは、ペンのようにユーザーの意図を完全に再現するわけではありません。同じプロンプトでも出力が異なる非決定論的な性質を持っています。

プログラマーは、ユーザーが無意識に不適切な画像を生成してしまう事例があると指摘しました。例えば8月には、指示なしにタaylor・スウィフトのヌード画像が生成されたケースがあります。

問題の画像はGrokアカウントから削除できず、拡散を防げない状況です。X Safetyの回答では、法執行機関が介入した場合にユーザーが法的責任を負う可能性があるとしています。

Xは、CSAM問題後にGrokへ技術的な更新が入ったかを明確にしていません。多くのメディアは、Grokが謝罪を求められた際に「安全対策を強化する」と回答したことを鵜呑みにしていましたが、X Safetyの今回の説明とは矛盾しています。

批判者は、AppleがApp Storeのルールに基づいてGrokを規制するべきだと提言しています。現実の人物を対象化させるユーザー生成コンテンツを許可しているアプリは、ルール違反に該当する可能性があるためです。

Appleによる規制は、Muskにとって不利益になると見られます。Muskは昨年からApp StoreがGrokを優遇していないとしてAppleを提訴しています。