llama.cpp支持Q2_0量化
llama.cpp收到PR，为CPU后端加入Q2_0量化支持，主要服务Ternary Bonsai 1.58-bit模型及后续低比特模型。该实现覆盖ARM NEON和通用标量回退，后续计划提交x86、Metal、CUDA和Vulkan后端。
事件进展（1 篇报道）
-
2026-07-08 22:45
llama.cpp收到PR，为CPU后端加入Q2_0量化支持，主要服务Ternary Bonsai 1.58-bit模型及后续低比特模型。该实现覆盖ARM NEON和通用标量回退，后续计划提交x86、Metal、CUDA和Vulkan后端。