KoboldCpp v1.122.1 リリース — KoboldCpp Agent の統合とツールサポートの拡張

新機能および改善点

• 統合された Agent: サードパーティのバックエンド、または OpenAI Chat Completions と互換性のあるエンドポイントへの接続をサポートします。
• MCP サポート: mcp.json ファイルを提供することで、追加のツールをロードできます。
• バッチサイズ制御: ubatchsize を batchsize から独立して指定できる機能を追加しました。
• UI/UX の強化: スライダーのコンパクト化、ubatch スライダーの追加、音楽 UI の改善を行いました。
• オーディオサポート: LLM を使用して歌詞を生成する際、2ステップのプロセスを通じてオーディオコードの生成が可能になります。
• コンテキスト管理: デフォルトのコンテキストサイズを拡大し、コンテキスト制限に近づいた際の最大出力トークンのスマートな処理を実装しました。

バグ修正および調整

• ツール呼び出し: ツール呼び出しパーサーの問題を修正しました。
• メモリとパフォーマンス: P40 の VRAM 使用量が増加する問題をリバートし、小型モデルの使用時にスワップを防ぐための --autoswapthreshold を追加しました。
• 安定性: ストリーミング中の生成失敗時にエラーオブジェクトを返すようにしました。
• ビジュアル: pixel space diffusers を処理するために最大画像プレビューサイズを制限し、SD VAE のタイリングしきい値を 512 に下げました。
• ロギング: クワイエットモードにおける特定の smartcache スパムを削除しました。