AIセキュリティは、定義された要件、強制可能な制御、および保護機能が機能していることを示す検証可能な証拠を伴う、エンジニアリングの問題として扱う必要があります。AIエージェントが推論やツールの使用といった能力を獲得するにつれ、モデル、ハーネス、およびAI実行環境を含むスタック全体にセキュリティ責任を適用しなければなりません。
エージェントのセキュリティを効果的に確保するには、エージェントの推論とは独立して存在する、強制可能な境界が必要です。これには、サンドボックス化された実行、およびネットワークの接続先やプロセスに対する制限が含まれます。組織はエージェントに対して追跡可能なアイデンティティを確立し、資格情報を割り当てられたタスクに限定するとともに、重大なアクションには人間の承認を必要とするポリシーを策定する必要があります。
オープンソースのセキュアなランタイムであるNVIDIA OpenShellは、ポリシーを強制し、サンドボックス化された実行を提供するために設計されています。CiscoやJFrogなどのパートナーは、Open Secure AI Allianceと協力し、エージェントのスキルにガバナンスと検証のレイヤーを追加しています。さらに、業界では、シミュレーションやレッドチーミングのために、CrowdStrikeのSafeMindやPalo Alto NetworksのPrisma AIRSなど、継続的なテストとインシデント調査のためのさまざまなツールが採用されています。
出典
- AI Security Is an Engineering Problem — How to Solve It at Every Layer of the Agent Stack （NVIDIA Generative AI, 2026-09-21）