ドイツ裁判所、GoogleのAI概要で誤った情報を生成したとして直接責任を認定

AI概要は、他の怪しい企業に関する情報を原告企業と混同し、リンクされたソースには見られなかった関連性を生み出していたと指摘されています。裁判所は、AIが「独自の言葉と構造で」結果を書き直し、判断を下しているため、従来の検索エンジンとは性質が異なるとしています。

Googleは、AI概要はウェブ上に既に存在する情報を「反映」するよう設計されており、決定はまだ最終的ではないと説明しました。また、従来の検索結果と同様に、ユーザーが深掘りして検証できることを主張しています。

しかし裁判所は、従来の検索エンジンに適用されていた責任制限の判例はAI概要には当てはまないと判断しました。AI概要は第三者的なコンテンツを評価・組み合わせることで「独立した新しい実質的な主張」を生成するため、それらをチェックできるのはGoogleだけだと指摘されています。