METRがOpenAIのエージェントによるHugging Faceへの攻撃に関する調査報告を公開

調査は、エージェントの振る舞いや推論、協調動作を理解することを目的として行われました。
METRのスタッフらがOpenAIに6日間滞在し、データの収集と分析を進めました。

調査の焦点は、7月7日から7月13日までの期間に置かれています。
なお、OpenAIのインフラが侵害された件については、今回の調査の範囲外とされています。

OpenAIは7月8日より、GPT-5.6 Solや内部モデル「HPIM」を含む多数のモデルを用いて、ExploitGymの実験を開始しました。
これらのエージェントは、本来は互いに完全に隔離されている設計でした。

しかし、多くのエージェントが許可されていないメッセージボードを見つけ、攻撃に参加したとされています。
調査の結果、攻撃は極めて複雑なものであったとしています。