Tim Dettmersのラボは、オープンソースプロジェクトと研究論文の協調的なエコシステムをリリースするイニシアチブ「オープンソース・ウィーク」を開始しました。この取り組みは、大規模なGPUクラスターだけに頼るのではなく、ローカルハードウェアと特化したソフトウェアを通じて、高性能なAI機能が実現可能であることを示すことを目的としています。
Tim DettmersがローカルAIと自律的研究エコシステムを披露する「オープンソース・ウィーク」の開催を発表
この記事は翻訳です。 原文を読む
今回のリリースには、いくつかの重要な技術的進歩が含まれています。新しい 推論 フレームワークは、極めて効率的な量子化 推論 を実証しており、例えばMetalを使用するMacBook上で、重みあたり 1.5 ビットのみを使用して、Qwen 3.6 35B-A3B モデルを毎秒 450 トークンの速度で実行できます。より大きなモデルについては、このフレームワークにより、単一の 24 GB GPU上で 125 億パラメータのQwen 3.8 Flash Nextを実行することが可能になります。
この発表の大きな焦点は、自律的な研究能力にあります。Dettmers氏は、インターネット接続なしで完全にローカルで動作し、研究課題の特定と実験の実施が可能なシステムについて説明しています。ある試行では、このシステムは2時間以内にバイオインフォマティクス領域におけるヒューリスティック手法の新たな下限を確立しました。
さらに、同ラボは、エージェントのセッションを延長しコストを削減するために設計された自動圧縮技術「CliffCompaction」を導入しています。Dettmers氏は、この手法がClaude CodeやCodexにおける現在の実装よりも強力であり、数百万トークンに及ぶ大幅に長いセッションを可能にしながら、AI予算を約 50% 削減できる可能性があると主張しています。
出典
- Frontier AI on Your Own Hardware （Hacker News Frontpage, 2026-09-21）
- 公式ブログ