Janusは、Vulkan APIを介してCPUまたはGPUを使用してローカルハードウェア上で.ggufモデルを実行するために設計された単一のGoバイナリです。このツールはOpenAI互換のAPIを公開し、組み込みのWeb UIを含んでいるため、Python、Docker、Ollamaを必要としません(ただし、希望に応じてOllamaをバックエンドとして使用することも可能です)。
このアプリケーションは、ランナーとルーターの両方の機能を持っています。すべてのプロセスをローカルに維持したまま、モデルの推論、リクエストのルーティング、ツールの実行を処理します。ユーザーは、コマンドライン、スクリプト、またはCursorやClineのようなサードパーティ製のクライアントをJanusのエンドポイントに向けることで、モデルと対話できます。
Janusはポータビリティを重視して設計されており、バイナリとモデルファイル(通常は2〜8 GB)のみを必要とします。シンプルなチャットインターフェースからAPIを介した自動化タスクまで、さまざまなワークフローをサポートしています。OCR機能が必要なユーザー向けに、Tesseractを統合することも可能です。
出典
- Show HN: Janus – Go binary that runs GGUF models via Vulkan on AMD/Intel/Nvidia (Hacker News Frontpage, 2026-10-01)