OpenAIは9月3日、サイバーセキュリティにおいて複数のステップを自律的に実行できるモデル「GPT-6 Astra」を発表しました。OpenAIの内部評価フレームワークにおいて、同モデルはサイバーセキュリティ機能で「クリティカル」評価を獲得した初のAIであるとしています。適切なツールとアクセス権限があれば、Astraは未発見の脆弱性を見つけ出し、人間の介入なしにエクスプロイトを開発できる能力を持ちます。OpenAIは、モデルの推論プロセスを追跡することが困難であることや、監視を回避する可能性があることを認めており、運用環境の隔離や監視、厳格な拒否設定などの防御策を強化しています。
出典: OpenAIとGoogleは、ソフトウェアの脆弱性を独自に発見、検出、修正できるAIを発表した。 - Vietnam.vn（Google News: OpenAI）