Googleは、開発者向けAIモデル「Gemma」をAI Studioから削除したと発表しました。上院議員Marsha Blackburn氏（共和党）が、同モデルに「強姦容疑をかけられたか」と質問したところ、虚偽の回答と捏造されたニュース記事のリストが返されたためです。
上院議員の苦情を受けGoogleがAI StudioからGemmaを削除
Blackburn氏はCEOのSundar Pichai氏宛に書簡を送り、Googleを名誉毀損と保守派への偏見で非難しました。Gemmaは1987年の州上院選挙中に州警察官と性的関係があり、非合意の行為があったなどと回答したとされています。
実際には選挙年は1998年であり、そのような容疑や個人、記事は存在しませんでした。Blackburn氏は「制御できるまで止めてほしい」と主張しています。
Googleは、Gemmaは事実確認のためのツールではなく、非開発者が誤用していたと説明しました。混乱を防ぐためAI Studioからのアクセスは停止し、API経由では引き続き利用可能としています。
Googleはハルシネーションの最小化に継続的に取り組むと述べています。
出典: Google pulls AI model after senator says it fabricated assault allegation（HN 84pt・93コメント）（HN Search (backfill)、2025-11-04）