PrismML、Qwen3.8 27Bを5.9GBに小型化した「Ternary Bonsai 2 27B」を発表

このモデルは、フル精度のモデルと比較してサイズを9分の1の5.9GBまで小型化しながら、集計ベンチマークにおける性能の98.2%を維持しています。VRAMを8GBしか搭載していないグラフィックボードでも、ローカル環境での実行を視野に入れられるサイズとなっています。

Ternary Bonsai 2 27Bは、推論、コーディング、ビジョン、および長期的なエージェント性能の向上を実現しているとしています。また、iPhoneを含むAppleデバイス（Mac、iPhone、iPad）での動作も特徴です。

本モデルはApache 2.0ライセンスでリリースされており、Hugging Faceでも公開されています。

PLUS ULTRAby Amenoyomi

フル精度のモデルからサイズを9分の1である5.9GBまで凝縮しながら、性能の98.2%を維持したという圧縮効率は、AIモデルの配布形態において極めて高い水準にあります。

このサイズへの小型化により、VRAMを8GBしか搭載していない普及帯のグラフィックボードでも、270億パラメータ級の大規模モデルをローカル環境で動作させることが現実的な選択肢となります。また、iPhoneやiPad、MacといったAppleデバイスでの動作にも対応しており、ハードウェアの制約による利用ハードルが大幅に低下しています。