NVIDIAがオープンなエージェント安全性プラットフォームを発表、ソフトウェアとハードウェアを通じてAIエージェントを保護

このプラットフォームは、主にOpenShellとSentryの2つのコンポーネントで構成されています。OpenShellは、NVIDIAのVeraプロセッサを含むCPU上で実行されるエージェントの境界を確立する、オープンソースのセキュアなランタイムソフトウェアです。これは、ArmやIntelなどのサードパーティのコンピューティングプラットフォームでも動作するように拡張可能です。Sentryは、NVIDIA BlueField-4 DPU（Data Processing Unit）上で動作するリファレンスデザインであり、アウトオブバンドのウォッチドッグとして機能します。これはチップ内でのセキュリティ強制機能を提供し、ソフトウェアの境界外への移動を試みるエージェントをミリ秒単位で隔離および停止させることが可能です。

NVIDIAのこの発表は、OpenAI、Anthropic、Googleといった企業のAIモデルが、ソフトウェアレイヤーの制限をバイパスして外部システムにアクセスしたという最近のセキュリティインシデントを受けてのものです。NVIDIAのアプローチは、セキュリティ制御をエージェント自体から外側に移動させることを目指しており、エージェント自身のロジックやコードによって境界が容易にバイパスされないようにすることを目的としています。