ユニバーシティ・カレッジ・ロンドンの機械学習の議長であり、DeepMindのAlphaGoチームの元コアメンバーであるThore Graepel氏は、現在の大型言語モデル（LLM）は、医療や科学研究のような極めて重要な応用分野に求められる真の推論能力を欠いていると主張しています。
多くの人々は、Chain of Thought（思考の連鎖）などの技術によってLLMを熟考的なものだと認識していますが、Graepel氏は、それらが依然として主に、高速で連想的、かつ次のトークンの予測に特化した「システム1」的な思考にとどまっていると論じています。将来の結果を検討してゲームツリーを構築するために探索メカニズムを利用したAlphaGoとは異なり、LLMは明示的で、検証可能な認識状態を保持していません。その代わりに、あらかじめ決定された回答を正当化するために、事後的に推論ステップを捏造することがよくあります。
Graepel氏は、真の機械推論には、自身の知識の記録を保持し、新しい情報がどのように不確実性を減少させるかを評価し、証拠に基づいて信念を更新できるシステムが必要であると示唆しています。彼は、単に現在のモデルの規模を拡大するだけではこのギャップを埋めることはできないと考えています。なぜなら、規模の拡大は単にパターン認識を鋭敏にするだけであり、熟考的な推論をもたらすものではないからです。
出典
- Don't be fooled–LLMs don't reason （Hacker News Frontpage, 2026-10-02）