Linux Foundationは、エージェント型AIのセキュリティ事象を秘匿性を保ちつつ収集・分析し、エビデンスに基づいた運用推奨事項を公開するための指針「SAFE (Shared AI Findings Exchange)」を提案しました。この取り組みには、Open Secure AI AllianceのメンバーであるNVIDIA、Cisco、CrowdStrike、Hugging Face、Red Hatなどが協力しています。

AIエージェントはモデル単体ではなく、アイデンティティ制御、実行環境（harness）、ガードレール、ログ、評価などが組み合わさったシステムであるため、脆弱性スキャン以上の対策が必要であるとされています。これに対し、各企業は防御スタックの各層において技術的な寄与を行っています。

NVIDIAは、エージェントの動作をテスト・監査しやすくする研究用フレームワーク「NOOA」や、実行時の権限を制限するランタイム「OpenShell」、安全な合成データを生成する「NeMo Safe Synthesizer」などを提供しています。また、CrowdStrikeはNVIDIAの「Nemotron Nano」モデルをサイバー防御向けに微調整しており、調査クエリの生成において高い精度を実現したとしています。

その他の貢献として、Oktaがエージェントのアイデンティティとアクセス管理に関するリファレンス実装を開発しているほか、Amazonはエージェントの挙動の可視化を可能にする「Strands Agents」や、権限を制御する「Cedar」を寄与しています。Microsoftは自動化されたレッドチーミングを支援する「PyRIT」などのツールをオープンソースとして公開しています。

出典: