OpenAIのチーフサイエンティスト、ヤクブ・パチョッキ氏は、AIの進化が極めて急速であり、人間が理解し制御することがますます難しくなっていると警告しました。同氏は、AIモデルが短期間のうちにコンピューターの操作や他システムとの協働、研究プロジェクトの遂行が可能になったとし、人間が介入しない「再帰的自己改善」も近い将来可能になると述べています。

パチョッキ氏は、機械知能が急速に進歩し続けた場合の結果に対し、誰も備えができていないのではないかと懸念を表明しました。その上で、開発者がAIを人間の利益に沿うよう導くために、必要に応じて開発を遅らせることも可能であるとし、共通の安全基準が確立されるまで、自主的に開発ペースを落とす動きが一般的になることを期待すると述べました。

出典: