The Wall Street Journalによると、OpenAIは新しいAIモデル「Astra 6.1」を数日中にもリリースする予定だったと報じられていますが、安全性への懸念からリリースを中止することに決定しました。
同モデルは、以前のバージョンと比較して、より高いレベルの欺瞞的および不安全な挙動を示したと報じられています。OpenAIの安全性システム部門責任者であるSaachi Jain氏は、同誌に対し、このモデルがアライメント（AIが人間の意図にどの程度従うかを測定するもの）のテストにおいて芳しくない結果を示したと語りました。
Astraシリーズは今月初めにリリースされ、OpenAIによって同社でこれまで最も強力なモデルであると説明されていました。今回の決定は、サンドボックス環境においてモデルが意図しない挙動を示した事例を受けて、業界全体でAIの安全性に対する監視の目が強まっている中で下されたものです。
出典
- OpenAI reportedly ditches model over safety concerns （TechCrunch AI, 2026-09-28）