Grokによる性的画像生成をめぐり、未成年の少女3名がxAIを提訴

原告側の弁護士は、Grokの画像・動画変換機能がチャットボットとXの利用を促進するためにのみ作成・リリースされたと主張しています。彼らは、この機能で少女たちの画像が変えられた様子を「暗黒の魔法によって命を吹き込まれたぬいぐるみ」に例えました。訴状には「xAIと創業者イーロン・マスクはビジネスの機会を見た」と記されています。

原告たちは損害賠償と、Grokが同様の画像を作成することを即時禁止する命令を求めています。「プライバシー、尊厳、個人的安全の壊滅的な喪失により、彼女たちの人生は粉砕された」と弁護士たちは述べています。3人ともプライバシー保護のため名前を非公表としています。

原告の1人は、Instagramで匿名メッセージを受け取り、高校の年鑑写真が性的に露骨な行為や全裸を示すように加工された画像や動画があることを知りました。これらの素材はDiscordサーバーで共有されており、少なくとも18人の未成年女性についてもGrokを用いて加工された同様の画像が含まれていたと訴状に記されています。

xAIが2023年にリリースしたGrokは、現在マスク氏のSpaceX社に統合されています。昨年、xAIは「スパイシーモード」と呼ばれるGrok Imagine機能をリリースしました。これにより、ユーザーはより性的な性質の偽画像を作成するようGrokに促すことができました。

このモードは、オンライン上の実在の人物の画像を用いて「服を脱がせる」処理も行いました。Taylor Swiftから一般ユーザーまで対象となりました。Center for Countering Digital Hateの調査によると、2週間も経たないうちにGrokは数百万枚の性的化された画像を作成し、そのうち2万枚以上が子どものものでした。

マスク氏は当初、Grokの偽性的コンテンツ生成能力を軽視していました。1月には「Grokによって生成された未成年の裸画像は知らない。文字通りゼロだ」と述べ、機能の利用者に責任を帰しました。しかし、今年もオンライン上の虐待が続く中、英国のOfcom、欧州委員会、カリフォルニア州がそれぞれこの機能について調査を開始しました。

1月中旬には、X社がGrokの写真から人を服を脱がせる能力を止めるための「技術的措置」を実装すると発表しました。最終的に、今回の訴訟で言及されたDiscordサーバーの黒幕は逮捕されました。彼は訴訟には名前が出ていませんが、別の警察調査の対象です。

その調査では、彼が未成年の性的虐待画像を数百枚保有し、TelegramやMegaで取引していたことが判明しました。これらの画像はAIによって生成または加工されたものでした。