米下院中国特別委員会の大物民主党議員であるロ・カーン下院議員（カリフォルニア州選出）は、人工知能が地球規模の被害をもたらすことを防ぐため、米国と中国の間の条約締結を呼びかけている。The Vergeが共有した書簡の中で、カーン氏は米国の情報機関、およびDeepSeek、Alibaba、Moonshot AIを含む中国の主要なAI企業に対し、高度なAIシステムに関連する潜在的なリスクに対処するよう促した。
カーン氏の提案には、AIラボが自律エージェントの制御を失うシナリオに対して、米国がどのように対応できるかを評価するよう国家情報長官室（ODNI）に要請することが含まれている。また同議員は、中国企業に対し、「超知能」や、AIシステムが自らの能力を自律的に向上させるプロセスである「再帰的自己改善（RSI）」の実現に向けた取り組みに関する文書の提出を求めた。
書簡では具体的に、これらの企業が「キルスイッチ」などの安全装置を導入する意思があるか、また条約が締結された場合に非政府機関による検査を受け入れることを約束できるかどうかが問われている。カーン氏は、テック企業の経営陣による自主規制の能力について懐疑的な見方を示し、その状況を製薬業界に例えた。
RSIの禁止やフロンティアAIラボの監視強化を求めるカーン氏の呼びかけは、政治的なハードルに直面しているものの、同氏は安全性に関する勧告やコンプライアンス手法を策定するために、両国の専門家によるワーキンググループを設置することを提唱した。
出典
- Will Chinese AI companies slow down? A top House Democrat wants answers （The Verge AI, 2026-09-29）