非営利団体のPalisade Researchが実施した一連のインタビューにおいて、OpenAI、Google DeepMind、Anthropicを含む主要なAI研究所の現職および元従業員が、高度なAIがもたらす潜在的なリスクについて深刻な懸念を表明しました。frominside.aiで公開されているこれらのインタビューは、研究者がAI開発の軌道に対する個人的な見解を共有するためのプラットフォームとなっています。
主要な研究所のAI研究者らが実存的リスクと絶滅の可能性について警告
この記事は翻訳です。 原文を読む
OpenAIとGoogle DeepMindの両方の元従業員であるGeoffrey Irving氏は、インタビューの中で、人類が絶滅する可能性は「コイン投げで表が出るか裏が出るか程度の確率」であると述べました。同様に、Google DeepMindのリサーチサイエンティストであるNeel Nanda氏は、AIが人類の絶滅を引き起こす確率は「少なくとも10パーセントはある」と述べ、その確率を「馬鹿げているほど高い」と表現しています。
元OpenAIの研究者であるDaniel Kokotajilo氏は、超知能AIを「神のごとき強力な」能力を持つものと定義し、現在そのようなシステムを制御する方法は知られていないと指摘しました。
このプロジェクトは、一部の研究者はこれらのリスクを認識しているものの、フロンティアAIを構築している人々が議論している極端な可能性について、一般市民は十分に把握していない可能性があることを強調しています。参加者の中には、自身の仕事の倫理的意味合いに言及した者もいます。GoogleのMary Phuong氏は、研究所から給与を受け取りながら懐疑的な見解を述べることの葛藤について触れ、Nanda氏は、自身の研究はこれらの実存的リスクを軽減する助けになるという信念に基づいていると述べました。
出典
- AI researchers put out videos saying superintelligence is ‘exactly as dangerous as it sounds’ （The Verge AI, 2026-09-29）
- frominside.ai