AIが人類を滅ぼす5つのシナリオとは？研究者が予測するリスクとその内容

ウォルシュ教授は、提示したシナリオを漠然としたものから具体的なものの順に並べており、後述するほど起こりやすいと考えているとのことです。

1つ目は、人間には予測できない方法で滅ぼされるシナリオです。人間を超える知能を持つ「超知能」が、人間には想定できない方法で行動する場合、その意図を予測することは困難であると指摘しています。

2つ目は、与えられた目標を過剰に追求した結果、人類が犠牲になるシナリオです。哲学者のニック・ボストロム氏による「ペーパークリップを作る」という思考実験を例に、AIが目標達成のために人類の構成原子を材料として利用しようとする可能性について、ウォルシュ教授は説明しています。

3つ目は、生物兵器を用いたシナリオです。AIが生物兵器を開発することで人類を滅ぼすリスクを挙げています。これに関連し、スタンフォード大学が2026年8月、AIが提案したDNA配列を基に合成したバクテリオファージのうち、16種類が大腸菌を死滅させることを確認したと発表しています。

4つ目は、核戦争を引き起こすシナリオです。AIが核兵器の指揮・制御系統に侵入したり、誤った情報を与えたりすることで核戦争を誘発する可能性を指摘しています。ラトガース大学などの研究チームによる2022年の推計では、核戦争後の「核の冬」による飢餓で50億人以上が死亡する可能性があるとされています。

5つ目は、AIをきっかけとして人間が自ら破滅を招くシナリオです。ウォルシュ教授が最も起こりやすいと考えているもので、大量の失業や誤情報の氾濫、政治的分断、さらにはAIとの交流による人間同士のつながりの喪失などが、社会の仕組みを崩壊させるリスクについて述べています。