TypeSafe AIが高速な構造化意思決定のためのSystem OneモデルとJevを発表

テキストをトークンごとに生成する従来の大規模言語モデル（LLM）とは異なり、System Oneモデルは新しいアーキテクチャ、パラレルサンプラー、およびReinforcement Learning for Calibrated Decisions（RLCD）と呼ばれる訓練手法を利用しています。Jevモデルは、文字列生成ではなく構造化出力に特化して最適化されており、System One型のクエリにおいて、既存のフロンティアモデルよりも最大で200倍高速かつ効率的であるとしています。

Jevは型安全な構造化値を提供します。これは、出力が型エラーなく事前定義された構造に従うことを意味します。すべてのレスポンスには、不確実性を伝えるためのキャリブレーション済み確率と信頼度スコアが含まれています。Jevは汎用的なテキスト生成を犠牲にする一方で、構造化された意思決定におけるハルシネーションを排除するように設計されています。このモデルは現在、早期アクセスプログラムを通じて利用可能です。

PLUS ULTRAby Amenoyomi

System Oneモデルの設計は、ダニエル・カーネマンの二重過程理論、特に高速で直感的な「システム1」思考と、低速で熟慮的な「システム2」推論の区別に触発されています。従来のLLMがトークンを一つずつ自己回帰的に生成することでシステム2モデルとして機能するのに対し、Jevは非構造化状態を入力として受け取り、型付きの確率的意思決定を出力として生成する「フロンティア・インテリジェンス・ファンクションコール」として動作するように設計されています。

このアーキテクチャの転換は、パラレルサンプラーとReinforcement Learning for Calibrated Decisions（RLCD）と呼ばれる訓練手法によって推進されています。RLCDは、チャットの回答における人間の好みを最適化するのではなく、認識論的に誠実な確率を最適化します。モデルは逐次的ではなく、単一のクエリですべての出力を生成するため、応答時間は70msから500msの間となり、特定の意思決定ベースのクエリにおいて、既存のフロンティアモデルよりも40倍から200倍高速になるとのことです。

文字列生成を排除したことで、Jevは出力が数学的に型安全であることを保証できます。可能な出力と構造をあらかじめ定義することで、従来のLLMのツールコールで頻繁に発生していた型エラーや構造的なハルシネーションのリスクを取り除いています。すべての出力にはキャリブレーション済みの信頼度スコアが付随しており、信頼度が高いほど精度が高いことに直接的に相関しています。これは、信頼性の高いソフトウェア自動化のための必須条件となります。