Google、The Guardian調査受けAI概要の健康関連情報を一部削除

具体的には、「肝機能検査の正常範囲は何か」といったクエリに対して、専門家から危険性と指摘を受けた結果が表示されていたため無効化されました。また、膵臓がんの患者に対して高脂肪食を避けるよう推奨する誤りも発見されましたが、この件については削除されていません。

The Guardianの調査では、肝機能検査の検索結果にALTやASTなどの生データ表が表示されつつも、年齢や性別といった背景情報が考慮されていないことが明らかになりました。英国肝臓財団のVanessa Hebditch氏は、AIが提示する「正常」の定義が実際の医学的基準と異なる場合があり、患者が追跡治療を怠る恐れがあると警告しています。

Googleは特定の削除についてコメントを控えていますが、The Vergeに対しAI概要の品質に投資しているとし、「大半は正確な情報である」と説明しました。内部の臨床医チームがレビューを行い、多くの場合情報が不正確ではなく高品質なウェブサイトで裏付けられていると述べています。

問題は、AI概要がGoogleのページランキングで上位に表示されるウェブ結果に基づいて作られている点にあります。SEOに最適化された内容やスパムがAIモデルに供給され、権威的なトーンで要約されることで誤解を招きやすい構造になっています。The Guardianは、元のクエリを変形させた検索でもAI概要が表示され続けることを確認しました。