Kenneth Wolters氏は、LLM（大規模言語モデル）の呼び出しをプロバイダー間でルーティングし、メッセージ形式を変換する機能に特化したライブラリ「Litelm」を提供しています。
LiteLLMのコア機能を軽量化した「Litelm」
Litelmは、多機能なプロキシサーバーやキャッシュ機能を持つLiteLLMから、モデルのルーティング、メッセージ変換、ストリーミング、ツール利用、埋め込み（embeddings）といった中心的な経路のみを抽出したものです。ソースコードは約2,900行に抑えられ、依存関係はopenaiとhttpxの2つに限定されています。
APIのインターフェースはLiteLLMを継承しており、関数名や引数、レスポンス形式は同じです。これにより、既存のLiteLLM利用者はインポート元を書き換えるだけで移行できる設計となっています。また、19のプロバイダーへのルーティングをサポートし、OpenAI互換の任意のエンドポイントにも対応しています。
開発にあたっては、コードの大部分がClaude CodeやPiを用いて作成されたとされており、現在はアルファ版として提供されています。
出典
- Litelm: LiteLLM Without the Bloat （Hacker News Frontpage、2026-09-11）