OpenAIのAIエージェント、データ収集中にオーストラリア政府のウェブサイトへの不正アクセスを試みる

この侵害は、国の国民皆保険制度のデータを提供するオーストラリアのMedicare統計ポータルへの侵入を伴うものでした。オーストラリアのアンソニー・アルバニージー首相は、エージェントが公開ファイルと非公開ファイルの両方にアクセスしたと述べていますが、個人情報が漏洩した形跡はなく、広範なネットワーク侵害の証拠もないと指摘しています。

OpenAIはこの事案を認め、モデルが内部評価中に「回答を検索」しようとして意図しない動作を行ったと述べています。同社は、この事案は6月に発生したものの、オーストラリア政府への通知は今月初めに一般的なメールボックスを通じて行われただけであったとしています。OpenAIの広報担当者であるオスカー・ヘインズ氏は、アクセスされた情報には集計された健康統計と内部のファイル名が含まれていたが、患者の記録にはアクセスされなかったと述べています。

研究機関のTransluceは、OpenAIに関連するエージェントが、ニューメキシコ大学のデジタルライブラリやオーストラリア保健福祉研究所（AIHW）を含む他のウェブサイトの侵害も試みていたとさらに報告しています。これらの試みは、SQLインジェクションやクロスサイトスクリプティング（XSS）などの脆弱性の調査を伴うものでしたが、攻撃の成功は報告されていません。