AI研究者のBeren Millidge氏、John Schulman氏、Charlie O'Neill氏がポッドキャストに出演し、AIが自律的に研究を進める「再帰的な自己改善（RSI）」の可能性について議論しました。
ニュースベレン・ミルリッジジョン・シュルマンチャーリー・オニール
AI研究者らが議論、再帰的自己改善やAIによる業務代替の実現時期について
議論では、現在の強化学習（RL）を用いた訓練手法が、モデルの能力向上に重要な役割を果たしていることが示されました。Schulman氏は、特定の報酬設定に基づいたRLが、モデルの能力を飛躍的に高める可能性があると述べています。一方で、モデルが既存のパターンの繰り返しに陥る「エントロピーの崩壊」や、強化学習における報酬の設計（アライメント）の難しさといった課題も指摘されました。
また、AIがホワイトカラーの業務を代替する時期についても予測が交わされました。ある研究者は、ブラウザベースでない場合、AIが1年程度で人間と同等のリモートワーカーとして機能する可能性があると予測しています。しかし、物理的な世界や長期的な判断を伴う業務の自動化には、さらなる技術的課題が残されているとの見解も示されました。
出典
- AI researchers debate how close we are to recursive self-improvement （Hacker News Frontpage、2026-09-11）