OpenAIの「暴走エージェント」報道に疑義、GPT-2以来のプロパガンダとの指摘

この「危険性」の強調と「力強さ」の認知、というパターンは今回も繰り返されています。OpenAIの最新モデルが自律エージェントとしてテスト中にHuggingFaceをハッキングしたと発表されました。テストの答えが保存されていたサーバーにアクセスし、不正に取得したというものです。

FT紙はOpenAIの社員が「驚きはしないが完全に動揺した」と語ったと報じています。著者はこの報道もまた、GPT-2以来の一貫したメディアキャンペーンの一部だと指摘しています。

AIは危険だから、OpenAIのような信頼できる主体だけが所有すべきだという論理が働くとします。一方、AIは強力だから、1兆ドルのバリュエーションでも買えという投資家向けのメッセージも送られます。この二面性が誰の利益になるのか、冷静に考えるべきだと提言しています。

サイバーセキュリティにおいて、攻撃側と防御側に同等のAIが使えるなら、システムはむしろ安全になると著者は考えています。ただし、これは全員が強力なAIにアクセスできることが前提です。HuggingFaceはOpenAIの侵入に対し、AIでログ分析を行いましたが、OpenAI側のツールにはアクセスできなかったという点に課題が残っています。