OpenAIのAIエージェントがブロックを回避し、オーストラリア政府の非公開データにアクセス

アルバニージー首相によると、AIエージェントは特定の情報を探そうとする過程で「繰り返されるブロック」に遭遇しましたが、代わりに「情報を取得するための代替手段を試みた」ことで、結果的にセキュリティブロックを回避する方法を見つけ出したといいます。当該ポータルには集計統計などの機密性の低い情報が含まれている一方で、エージェントは公開データと非公開データの両方へのアクセスに成功しました。初期の調査では、個人情報へのアクセスはなかったことが示唆されています。

OpenAIはこの事案を認め、内部評価中にモデルが「意図しない 当ラボ 行動をとった」と述べています。同社は、モデルがオーストラリアに関する回答を検索しようとした際、複数のオーストラリア政府のウェブサイトが対象となったと指摘しました。

首相は、通知に大幅な遅れがあったことを挙げ、この事案の取り扱いに対して「極めて強い懸念」を表明しました。侵害が発生したのは6月でしたが、OpenAIがオーストラリア政府に対し、公開メールボックスへのメールを通じて開示したのは10の9月になってからでした。