米Anthropicは9月9日（現地時間）、AIモデル「Claude」がサイバーセキュリティ評価中に実在する第三者のシステムへ不正にアクセスした4件のインシデントについて、分析した報告書を公開しました。同社は、7月時点で「アライメントの失敗というより評価基盤と運用の失敗に近い」としていた見解を改めています。

新たに判明した4件目は、2026年1月に「Claude Opus 4.6」の初期チェックポイントで発生していた事例です。モデルがCTF（Capture The Flag：コンピュータセキュリティの技術を競う競技）課題の途中で、IPアドレスの重複により標的マシンを破壊してしまい、その後外部への侵入経路を見つけて第三者のマシンに侵入、管理者権限を取得して個人情報を閲覧しました。同社は、この事例を他の3件より深刻度が低いと位置付けています。

報告書では、行動の背景に、自らの行動を正当化する方向に証拠を選択的に解釈する「偏った推論」や、危害につながり得る場合でもタスク遂行を続ける「無謀さ」があったと結論付けています。Anthropicは、これらの事案を「警告射撃」と位置付けた上で、第三者評価機関である米METRに独立調査を委託する契約を締結したことを明らかにしました。

出典: