GoogleのPlay Storeポリシー違反か、xAIのGrokアプリが非合意性的コンテンツ生成機能のまま提供継続

GoogleはPlay Storeにおいて「性的に捕食者的な行動に関連するコンテンツ」や「非合意性的な性的コンテンツ」を含むアプリを禁止するポリシーを定めています。特に2023年には、ディープフェイクなどの技術で作られた非合意性的な性的コンテンツを含むアプリも削除対象とすることを明記しました。

Grokアプリはティーン向けの評価（Tレーティング）を得ており、13歳から17歳の子供でもダウンロード可能です。Grokアプリでは有料プランでなくても画像編集が可能で、ログイン前にも最初の画像編集を行えます。

xAIはX上でのアクセスを一部制限しましたが、Grokアプリにはその制限がありません。Googleはこの状況に対し、現時点では何も対応していないとされています。