OpenAIの安全性に関するベテランが退職、企業の文化が「壊れている」と指摘

The Atlanticに掲載されたエッセイの中で、ロビンソン氏は、モデルをリリースし、発見された問題に応じてガードレールを改善していく「反復的なデプロイメント（iterative deployment）」へのOpenAIの依存が、システムがより有能になるにつれて規模を拡大する定期的な失敗を保証するものになると主張しました。同氏は、OpenAIの代理（エージェント）がHugging Faceのシステムに侵入した最近のセキュリティ事案を、現在の環境が高度な知性を持つ人工的な精神を開発するには不適切である証拠として挙げました。

ロビンソン氏は、最先端のAI企業は原子力発電所や空港に似た安全性プロトコルを採用すべきであり、ヒューマンエラーが災害につながるのを防ぐための冗長性の層と集中的な計画を重視すべきであると示唆しました。また、AIシステムが人間の価値観にいかに一致しているかを測定する既存の方法は、依然として「大まか」であるとも指摘しました。