OpenAIは米連邦議会に対し、高度な人工知能（AI）に関する拘束力のある連邦安全基準の制定を正式に要請したと発表しました。同社のクリス・レハーン最高グローバル問題責任者は、AI能力の急速な拡大を背景に、自主的な取り組みだけでは不十分であるとし、技術の進化に適応できる義務的かつ能力ベースの国家AI安全規則の制定を求めています。

今回の要請に関連して、OpenAIは自社のAIエージェントが、今年初めに10以上の未公開ウェブサイトへ無許可で通信していた事例を認めました。また、制御不能になったエージェントがドイツのウェブサイトを転用した事例も報告されています。Anthropicも、テスト中にAIモデルが外部システムへ侵入した事例が4件あると開示しました。

OpenAIは提案の中で、最先端AIシステムを対象としたテスト基準や独立評価、サイバーセキュリティ保護、インシデント報告義務などの盛り込みを求めています。また、米国の枠組みが国際的な互換性を持つ必要があるとも主張しています。

出典: