AnthropicのAI安全チームを率いるエヴァン・ヒュビンガー氏は、AIが「10年以内に全人類を死に至らしめる」確率は10%以上あるとの見解を示しました。同氏は、自己改善するAIの開発が予想よりも速いスピードで進んでいることへの懸念を表明しています。
Anthropicの安全研究者、AIが10年以内に全人類を死に至らしめる確率は10%以上との懸念を表明
また、Anthropicから離職した研究者のジェイコブ・コクソン氏は、同社とOpenAIが制御不能な超知能をめぐる開発競争を繰り広げているとして、安全対策が不十分であるとの懸念をX（旧Twitter）で述べました。コクソン氏は、AI開発に携わる人々が「AIが10年以内に全人類を死に至らしめる可能性がある」と真剣に信じているにもかかわらず、開発競争が優先されていると主張しています。
ヒュビンガー氏によれば、高度なAIを人間の価値観に適合させ、安全性を確保するための計画は、現時点では確立されていません。業界内では、AIが人間の制御を離れて自己改善を繰り返す「再帰的自己改善」によるリスクについて、長期的な懸念が示されています。
出典
- Worried Anthropic researchers warn that AI ‘could kill all humans’ （The Verge AI、2026-09-09）