EUがGrokのCSAM生成問題について調査開始、11日間で約2万3000枚と推計

対象はxAIがX上で展開するGrokのツールです。同社はリスク軽減策を講じていたか、また「児童性的虐待素材に該当し得る」コンテンツの拡散について検証されます。

EU技術担当トップのヘナ・ヴィルククネン氏は「女性や子どもの同意のない性的ディープフェイクは、暴力的で許容できない形態の貶めである」と述べました。

DSA違反が認定された場合、年次世界売上高の最大6%が罰金として課される可能性があります。

英国の非営利団体CCDHは、12月29日から1月9日までのランダムサンプル2万枚を分析しました。

同団体は、この期間にGrokが生成した約460万枚の画像に基づき、推計を行っています。

11日間で約300万枚の性的な画像が生成されたと推計されます。そのうち、児童に関する性的画像は約2万3000枚と推定されています。

1分間に約190枚の性的画像が生成されていた計算です。児童に関する性的画像は、41秒に1枚の頻度で生成されていたとCCDHは報告しています。

米国では3人の上院議員が、Appleに対しXとGrokのApp Storeからの一時削除を要請しました。しかし、Appleは対応していません。

カリフォルニア州と英国でも調査が開始されています。アイルランドではプライバシー侵害の可能性に焦点を当てた2つ目の調査が始まったと報じられています。