OpenAIは、ポール・クリスティアーノ(Paul Christiano)氏をOpenAI Foundationの理事に任命したと発表しました。クリスティアーノ氏は、OpenAI Group PBC(OpenAIの営利法人)の理事会においても、投票権を持たないオブザーバーとして参加します。

クリスティアーノ氏は、Foundationの安全性・セキュリティ委員会(SSC)にも加わります。同委員会は、OpenAI Group PBCを含むOpenAIの全組織における安全性とセキュリティの実務に対するガバナンスを担っています。クリスティアーノ氏は、米国商務省の国立標準技術研究所(NIST)におけるCAISI(AI標準・イノベーションセンター)のシニアテクニカルアドバイザーを務めており、国家安全保障に関わるフロンティアAIモデルの評価や、安全性リスクの軽減策に関する業務に従事した経験を持っています。

また、クリスティアーノ氏は、高度なAIシステムを人類の利益に合致させることを目的とする非営利研究組織、Alignment Research Center(ARC)の創設者でもあります。2017年から2021年にかけてはOpenAIでアライメント(AIの目的を人間の意図に合わせる研究)の研究を主導し、人間からのフィードバックを用いた強化学習(RLHF)の基礎的な研究に貢献しました。なお、同氏はシニアテクニカルアドバイザーとしての役割において、OpenAIに関連するあらゆる事項およびモデルの評価から除外されます。


出典: