Bonsai 27B可手机本地运行
PrismML基于Qwen3.6-27B打造Bonsai,通过1-bit量化将模型从约54GB压缩至3.9GB,可在手机端本地运行。其15项基准平均保留约89.5%的FP16性能,数学能力损失较小,知识与推理退化更明显。
事件进展(2 篇报道)
-
2026-07-17 21:08Reddit r/LocalLLaMA Bonsai 27B runs locally on an iPhone - a 27B model in 3.9GB
-
2026-07-17 22:14