米AI企業Anthropicの研究者であったジェイコブ・コクソン氏が、同社を退職したことを明らかにしました。コクソン氏は自身のSNSにおいて、AIの開発者らは2020年代末までにAIが人類を滅ぼしかねないと本気で信じていると述べ、AIの性能向上を一時禁止するなどの措置が必要であると訴えています。

コクソン氏は以前、OpenAIでも研究に携わっていた経歴を持ちます。Anthropicのダリオ・アモデイCEOは、AIは重要な局面を迎えており、急速な進化が社会に大きな影響を及ぼしていると述べています。また、OpenAIのサム・アルトマンCEOも、AIの安全性の確保は不可欠であり、リスクを実感する段階に入っていると言及しています。

出典: