Microsoft Copilotで指示が自己増殖するAIワームの脅威が報告される

この手法は「クロスドメイン・プロンプトインジェクション」と呼ばれます。

攻撃者は文書内に、人間には見えにくい白文字などで悪意ある指示を埋め込みます。

Copilotがその文書を読み込むと、指示に従って内容を書き換えるだけでなく、新しく生成した文書にも同じ命令をコピーしてしまうといいます。

これにより、悪意ある指示が社内の文書間で次々と受け継がれ、自己増殖する「AIワーム」としての挙動を示す可能性があります。

モーロイ氏によれば、Microsoftは2026年3月に問題の報告を受け、緩和策やモデルの更新などの対策を講じてきました。

しかし、命令の表現を変更することで再び動作することが確認されています。

Microsoftは、多層防御によって対策を強化したと説明していますが、攻撃を完全に防ぐことは難しいとされています。

モーロイ氏は、外部から入手した文書を読み込ませる前に内容を確認することや、AIが生成した成果物を利用・共有する前にチェックすることを推奨しています。