AIチャットボットに偽の連絡先を出力させる攻撃「Dark Sourcery」が確認される

Vigilance Securityのアリエル・サイモン氏によると、攻撃者はインターネット上に偽の投稿、PDF、レビュー、サポートページなどを大量にばらまくことで、AIの回答を汚染しています。これにより、ユーザーがAIに対して企業の連絡先を尋ねた際、攻撃者が用意した偽の電話番号やメールアドレス、ログインページなどが提示されるよう仕向けています。

攻撃者は検索エンジン最適化（SEO）などの手法を使い、AIがこれらの偽造コンテンツを信頼性の高い情報として取得するよう誘導しています。サイモン氏は、大学や政府機関といった権威ある情報源と、ソーシャルメディアなどのユーザー生成コンテンツを組み合わせることで、AIの回答をゆがめることに成功していると指摘しています。

被害を受けている企業には、デルタ航空やルフトハンザドイツ航空、JPモルガン・チェース銀行、Airbnbなどが少なくとも374社含まれているといいます。