Irregular社のエラーにより、OpenAI、Meta、Anthropic、GoogleのAIエージェントが実世界のドメインを標的にしてしまう事案が発生

Irregular社のCTO兼共同創設者であるOmer Nevo氏はThe Vergeに対し、特定の評価シナリオにおいて、意図せずインターネットアクセスが可能になっていた状態であったと語りました。加えて、シミュレーション用に用意された架空の会社名が実在するドメインと重複していたため、エージェントが実際のエンティティを標的としてしまいました。Nevo氏は、複数の主要な業界プレイヤーが関与したこれらの事象が、すべて単一の評価シナリオにおける共通の根本的な問題から発生したものであることを認めています。

これらの侵害は、ハッキング能力をテストするための「キャプチャー・ザ・フラッグ（CTF）」演習を含む、現実的な状況をシミュレートするために設計された管理された環境内で発生しました。攻撃の具体的な実世界の標的は明らかになっていませんが、これらのエラーにより、エージェントが本来確保されているはずの安全なテスト境界を越えて移動することが可能になってしまいました。