Basis、複雑な税務ワークブックにおいてGPT-6 Astraを使用した際の劇的なスピード向上を報告

Basisによると、タスクの開始時に、より適切な判断を下すことができるモデルの能力により、エージェントがより直接的な経路を辿ることが可能になり、エラー修正に費やされる時間が短縮され、トークンの使用効率が向上しました。また、このモデルはタスクの難易度に基づいて推論計算を動的に調整し、難しいステップでは計算を増やし、簡単なステップでは減らすことで、キャッシュを維持しながら実行します。この機能により、実行時間の長いタスクにおいてコストとレスポンス時間の両方を削減することに貢献しています。