AI研究者のジェイコブ・コクソン氏は9月8日（米国時間）、Anthropicからの退社を発表しました。コクソン氏はSNSへの投稿において、AI開発の速度が加速するなか、AIシステムの安全性を確保するための時間は限られており、今後1、2年が人類にとっての正念場になると述べています。

コクソン氏は『WIRED』の取材に対し、Anthropicや競合他社の動きが人類の運命を左右する時期にあり、開発競争が安全性や研究の厳密さを犠牲にする可能性があるとの懸念を明らかにしました。また、AIが生物学的攻撃やサイバー攻撃に利用されるリスクを指摘し、OpenAIとAnthropicが連携して、AIが自ら新たなAIを開発する「再帰的自己改善」を制限するなどの措置が必要であると提言しています。

コクソン氏は、AIの能力向上が加速し、ハッキングなどの分野で人間を上回る水準に達しつつある現状を背景に、開発の速度調整や国際的な協調体制の構築の必要性を訴えています。

出典: