オープンウェイトモデルの普及がサイバー攻撃の効率化を招く恐れ

クローズドモデルは利用規約や監視の仕組みがありますが、オープンウェイトモデルはダウンロード後にユーザーが自由に利用できます。追加学習によって安全対策を弱めた「無検閲版」を作ることも可能です。これにより、攻撃のプロセスにおけるハードルが下がっています。

攻撃の手法については、Webサイトの偵察や、比較的容易に見つけられる脆弱性の探索にAIが活用されるといいます。金融や仮想通貨関連のシステム、およびAIソフトウェアのサプライチェーンが標的になる可能性が指摘されています。

防御側の対策として、アクセンチュアの藤井大翼氏は「侵入されること」を前提とした被害低減策を挙げています。データのバックアップやネットワークを細かく区切るマイクロセグメンテーションの実施が推奨されています。

また、パッチ適用を効率化するためにAIを活用する動きや、自社の情報を守るための「ソブリンAI」への関心も高まっています。自らAIを使って脆弱性を特定し、攻撃に先んじて修正することが重要です。