Grok、性的AI画像への反発を受け大半のユーザーから画像生成機能を停止

これはMusk氏が罰金や規制措置、英国でのXの禁止の可能性について警告された後の動きです。同機能は以前、女性の服を脱がせたり性的なポーズに配置したりする画像操作に使われていました。現在、この機能は有料サブスクリプションのユーザーにのみ制限されています。

Musk氏はX上で、「画像生成と編集は現在、有料サブスクリプションのユーザーに限定されています」と投稿しました。これにより、プラットフォームの大半のユーザーはGrokで画像を作成できなくなります。有料ユーザーはXに詳細な情報とクレジットカード情報が保存されているため、機能が誤用された場合、特定される可能性があります。

一方、Xに統合されていない別のGrokアプリでは、非有料ユーザーが女性の性的な画像を生成できていると報告されています。Guardianの調査では、同意なく女性のポルノグラフ的な動画や射殺される画像が作成されていたことが明らかになりました。

英国首相のKeir Starmer氏は水曜日、X社に対して強力な措置を取ることを示唆しました。彼はAI生成の半裸の女性や子供の写真の氾濫に対し、Xが「対応する」よう求め、そのコンテンツを「恥ずべき」「嫌悪感を与える」と表現しました。

Starmer氏は、事実上のX禁止を検討すべきだと示唆し、通信規制局Ofcomが「この問題に関して措置を取ることに全面的な支持がある」と述べました。英国のオンライン安全法では、Ofcomは重大な場合に裁判所の命令でウェブサイトやアプリをブロックし、企業全体の売上高の最大10%の罰金を科す権限を持っています。

Grokの画像作成機能が12月末に更新されて以降、過去2週間で数千枚の同意のない性的な女性の画像が作成されました。労働党政権でポルノ規制を推進しているJess Asato議員は、有料ユーザーが女性の同意なく画像を性的化できる現状について、「デジタル性的暴行であり、xAIは機能を完全に無効化するべきだ」と述べました。