日本語

製品発表MicroLLM Lab

MicroLLM Labにより、ブラウザ上で7つの超軽量LLMのベンチマークがWebGPUを通じて可能に

この記事は翻訳です。 原文を読む

MicroLLM Labは、ユーザーがウェブブラウザ内で直接7つの異なる超軽量大規模言語モデル(LLM)を実行し、ベンチマークを測定できるウェブベースのプラットフォームです。このツールはWebGPUエンジンを利用してモデルを実行し、定性的な文章評価ではなく、正規表現や完全なトークン一致といった客観的なチェックを通じてパフォーマンスを測定します。

このプラットフォームは、毎秒トークン数(sustained decodeおよびsuite wall)による速度や、客観的なテストの合格率に基づく精度など、いくつかのパフォーマンス指標を提供します。トークン生成速度などのパフォーマンスデータは、IndexedDBキャッシュを使用してユーザーのローカルマシンに保存されます。また、ユーザーは、デバイスのハードウェア仕様、およびピーク時および持続的な毎秒トークン数を含む、検証可能なパフォーマンス証明書を生成してダウンロードすることも可能です。

出典

  1. MicroLLM Lab – Try 7 tiny LLM's in the browser (Hacker News Frontpage, 2026-09-28)