AIリーダーと英国王室が「フロンティアのペース調整」を議論し、実存的リスクへの対処を呼びかけ

Amodei氏が提案する3段階の計画には、安全性への取り組みを検証するための第三者評価機関の導入、民主主義国家におけるフロンティアAI企業間での共通安全基準の確立、そして民主主義国家の政府と権威主義的な政府との間でのグローバルな協調の模索が含まれています。Anthropicは、すでに単独で第一段階への取り組みを約束しています。OpenAIのCEOであるSam Altman氏は、この概念への支持を表明し、開発は無謀であるべきではなく、進歩がこれらのシステムを監視し、整合性を保つ能力を追い越すべきではないと明らかにしました。

AIの安全性に関する議論は、9月 17, 2026 にスコットランドでチャールズ3世国王が主催したサミットにおいて、さらに高められました。国王はAIセクターのリーダーや政府関係者に対し、テクノロジーは大きな機会を提供する一方で、もし誤った手に渡れば「より暗い能力」や実存的なリスクをもたらす可能性があると警告しました。出席者には、NVIDIA、Google DeepMind、OpenAI、Anthropicの代表者が含まれていました。

サミットの中で、NVIDIAのCEOであるJensen Huang氏は、安全性は優先事項でなければならず、製品が十分に安全になるまで企業はエンジニアリングを継続すべきであると強調しました。Google DeepMindの共同創設者であるDemis Hassabis氏は、AGI（人工汎用知能）は数年以内に実現する可能性があり、産業革命の10倍以上の影響を与える可能性があると述べました。