ジョージタウン大学とワシントン大学の研究チームは、生成AIが作成した誤った要約を読むことで、読者が元の映像を直接見ていた場合でも、誤情報に沿って出来事を思い出してしまう可能性があることを報告しました。
研究チームは、OpenAIのChatGPT-5.5とGoogleのGemini 2.5 Flash-Liteを使用し、交通事故の映像を要約させる実験を行いました。AIに対して「事実に基づき、推測を加えない」といった指示を出したものの、生成された要約には多くの誤りが含まれていました。具体的には、映像の中心的な出来事である「自動車が歩行者に衝突した」という情報が、20件中19件の要約で省略されていたことが確認されています。
次に、誤った要約が人間の記憶に与える影響を調査するため、成人328名を対象とした実験を実施しました。参加者に交通事故の映像を見せた後、24時間から48時間後に要約を読ませたところ、正確な要約を読んだグループでは83.6%が標識の内容を正しく回答したのに対し、誤った要約を読んだグループの正答率は44.8%にまで低下しました。
一方で、要約に記載されていなかった「事故の時間帯」などの周辺的な記憶については、多くの参加者が正解を維持しており、映像全体の記憶が失われたわけではないことも判明しました。研究チームは、AIが作成したものであると説明されたかどうかにかかわらず、誤情報による記憶への影響を防ぐには、AIが間違いを犯すことを認識しているだけでは不十分である可能性を指摘しています。
出典
- AIの間違った要約を読むと「自分で見た出来事」まで間違って記憶することが実験で判明 （GIGAZINE、2026-09-29）