三值Bonsai模型引发关注
帖子介绍 PrismML 的 Bonsai 线路,强调其采用真正的二值/三值权重,目标是把大模型压到更低比特率以适配本地设备。内容也提到作者在 Metal 上微调的体验,显示这类超低比特模型的可玩性正在提升。
事件进展(1 篇报道)
-
2026-07-19 10:29Reddit r/LocalLLaMA I tried fine-tuning a ternary model, Bonsai 8b, on metal
帖子介绍 PrismML 的 Bonsai 线路,强调其采用真正的二值/三值权重,目标是把大模型压到更低比特率以适配本地设备。内容也提到作者在 Metal 上微调的体验,显示这类超低比特模型的可玩性正在提升。