カナダのフィドラー、Google AI Overviewが性犯罪者と誤認したとして150万ドルを請求

訴状では、GoogleのAI生成サマリー機能「AI Overview」が、マクイザック氏を複数の刑事犯罪の有罪判決を受けた性犯罪者だと誤って特定したとしています。具体的には、女性の性的暴行や子供を誘拐して性的暴行を加える意図でのネット誘拐、身体に害を及ぼす暴行などを受けたと記載されていました。また、同氏が終身で全国性的犯罪者登録リストに載っていたとも誤って記述されていました。

マクイザック氏は、AI Overviewの設計上の欠陥により生じた損害についてGoogleに責任があるとしています。訴状には「Googleは、AI Overviewが不完全であり、真実でない情報を返す可能性があることを知っていた、または知るべきだった」と述べられています。

損害の内訳は、一般損害・加算損害・懲罰的損害の各50万ドルです。マクイザック氏によると、12月19日に予定されていたSipekne’katik First Nationでのコンサートが、一般市民からの苦情をきっかけにキャンセルされました。同部族は後に公開謝罪を行い、AI支援検索で生成された誤った情報が原因だったと説明しています。

マクイザック氏は、この誤情報を知ったことでステージに立つことへの具体的な恐怖を感じたと述べています。訴状では、Googleが同氏に連絡を取ったり謝罪したりしなかったことも指摘されています。さらに、「人間の報道担当者がこれらの虚偽の主張を行ったなら、懲罰的損害が認められるはずだ」と述べ、ソフトウェアによって発表されたという理由で責任を軽減されるべきではないと主張しています。