MITの研究者らは、生成AIモデルが最終的な出力において、厳格な「ハード」な要件を満たすように設計されたHardFlowというアルゴリズムを開発したと述べています。生成プロセスのすべての中間ステップで遵守を強制しようとする既存の手法とは異なり、HardFlowは制約充足を制御問題として扱います。これは速度場（flow-matching技術において、ランダムな状態から完成した結果へと生成を導くために使用されるメカニズム）に調整を加えることで、最終段階においてのみ制約が満たされるようにするものです。

研究者らは、すべての中間ステップで制約を満たすことを要求しないことにより、モデルは高品質な解を探索し、発見するためのより多くの自由を維持できると述べています。このアプローチは、ロボティクス、物理プロセス制御、コンピュータビジョンのような、正確なルールの遵守が不可欠な、リスクの高いアプリケーションや安全性に直結するアプリケーションにおいて特に重要であるとしています。

ロボットアームの障害物回避、迷路のナビゲーション、画像編集などのタスクを対象としたコンピュータシミュレーションにおいて、HardFlowは毎回必要な制約を満たしました。テストの結果、この手法は、同等のあるいはそれ以下の計算時間を維持しながら、競合する手法よりも高品質な結果を生み出すことが示されました。特筆すべき点として、この手法は再学習を必要とせず、すでに学習済みのモデルに直接適用できるとしています。

現在の結果は、D3ILおよびMaze2Dシミュレータを含む、完全にシミュレーションに基づいたものです。これらの結果の独立した研究所による再現はまだ報告されておらず、この手法が大規模言語モデルに関連するような曖昧な安全性ルールを扱えるのか、あるいはflow-matching以外の他のモデルファミリーに拡張できるのかは、今後の検証が待たれます。

情報源: