Anthropic共同創業者オラフ、教皇レオ14世のAI回勅発表式で講演

Olah氏は、フロンティアAIラボは商業的持続可能性や地政学的圧力、誇りや野心といったインセンティブの中で運営されており、それらが「正しいことをする」ことと衝突し得ると述べました。そのため、そうしたインセンティブの外側から安全性を主張し、厳しいことを言える批評者の存在が重要だとしました。

AIモデルの性質について、Olah氏は飛行機のように各パーツを設計して理解するものではなく、人間の思考や言語という膨大な遺産の上に「育った」もので、訓練者自身にとっても重要な意味で神秘が残ると説明しました。AIの性格の選択や世界との関わり方は人文科学・宗教・哲学・社会全体の課題だと指摘し、AIによる大規模な労働代替が起きた場合の貧困層への対応は「歴史的規模の道徳的義務」になると述べました。