Bonsai-27B更新二值三值模型
Bonsai-27B与Ternary-Bonsai-27B更新了PR进展,说明二值Q1_0已可在llama.cpp多后端直接运行。三值版本仍在向主线迁移,当前覆盖CPU、Metal、CUDA和Vulkan等环境。
事件进展(1 篇报道)
-
2026-07-15 20:48Reddit r/LocalLLaMA Bonsai-27B & Ternary-Bonsai-27B - Updates (on PRs)
Bonsai-27B与Ternary-Bonsai-27B更新了PR进展,说明二值Q1_0已可在llama.cpp多后端直接运行。三值版本仍在向主线迁移,当前覆盖CPU、Metal、CUDA和Vulkan等环境。