米Googleの脅威分析部門であるGoogle Threat Intelligence Group（GTIG）は9月9日、AIの悪用に関するレポートを公開し、AIを用いた攻撃が高速化および大規模化していると報告しました。レポートでは、6時間未満の間に数千件の認証情報が侵害された事例も確認されています。

GTIGのチーフアナリスト、ジョン・ハルトクイスト氏は、すべての脅威アクターが何らかの形でAIを使用していると言及しました。先進的な攻撃者は、基本的なプロンプトの利用から、エージェント型AIワークフローやAIを活用した自動化へと移行しており、人間が介入する時間が短縮されたことで攻撃が高速化し、防御側の対応時間が削られていると指摘しています。

また、AIコーディングアシスタントやオープンソースソフトウェアを含むソフトウェアサプライチェーン、組織の独自AIモデル、コード、プロンプト、研究などが標的となる攻撃が増加しているとして、ソフトウェア開発の加速に伴う運用リスクの増大に警鐘を鳴らしました。これに対しGoogleは、モデルの安全対策や脅威インテリジェンスの収集、レッドチーム演習などの多面的な防御戦略を採用しているとしています。

出典: