プロンプトは一時的なもの：測定と最適化による自己改善型エージェントシステムの構築

信頼性を実現するために、著者はプロンプトを静的な指示としてではなく、一時的なベクトルとして扱うべきであると強調しています。人間がキュレーションしたプロンプトに頼るのではなく、エンジニアは、エージェントが特定の制約に従う能力や敵対的なシナリオに対処する能力を測定する「pass^k」（pass power k）テストスイートの構築に集中すべきです。

これらのテストスイートを通じて再現可能な測定を確立することで、開発者は最適化のフライホイールを実装できます。これには、LLMベースの最適化器を使用して、定義されたメトリクスを満たす最適な状態に収束するまで、プロンプト構造を自動的に反復させることが含まれます。エージェントがフィードバックループを介して他のエージェントを最適化するというこのサイクルは、信頼性が高く自己修正能力を持つエージェントシステムをスケールさせるための不可欠な道筋として提示されています。

PLUS ULTRAby Amenoyomi

LLMの挙動は確率的であり、コンテキストに対して非常に敏感であるため、手動のプロンプト調整では長期的な信頼性を保証できないことがよくあります。構造化出力内のフィールド名を変更するといった小さな変更であっても、モデルの内部状態や周囲の指示が変化するにつれて、一時的な解決策にはなっても、最終的には破綻してしまう可能性があります。新しいプロンプトを追加することはエージェントの「コンテキストの宇宙」全体を変化させるため、人間主導のキュレーションでは、これらの変更が既存の動作にどのように影響するか、あるいはプロダクションの規模に対してどのようにスケールするかを確実に予測することはできません。

この脆弱性を克服するには、「pass^k」（pass power k）を通じて信頼性を確立する必要があります。これは、テストを何度も実行することで、成功の再現可能な定量的尺度を作成する手法です。このアプローチにより、少数の手動チェックでは見逃してしまうような微細な失敗が明らかになり、信頼性という認識が測定可能なメトリクスへと変わります。このベースラインを確立することで、開発者は直感に頼ることなく、エージェントがブランドボイスを維持できない、あるいは敵対的な入力に屈するといった、失敗の箇所を正確に特定できるようになります。

再現可能な測定が可能になれば、プロンプトの改善プロセスはLLMベースの最適化器に委ねることができます。このシステムは、プロンプトがテストスイートにおいてなぜ悪いパフォーマンスを示したのかを分析し、最適な状態に収束するまでテキストを自動的に反復改善します。最適化器がテスト事例に対して単に過学習することを防ぐために、「ホールドアウトテスト」（最適化器が決して目にすることのない別のシナリオセット）が使用され、生成されたプロンプトが未知の新しい入力に対して実際に汎化性能を持っているかを確認します。