llama.cpp增ZenDNN Q8_0支持
ggml-zendnn的PR为llama.cpp补上Q8_0量化支持，并给出多组benchmark。结果显示，ZenDNN在CPU推理上对Llama-3.1-8B、Mixtral-8x7B和Gemma系列都有显著提速，尤其在长提示下收益明显。
事件进展（1 篇报道）
-
2026-07-15 20:23
ggml-zendnn的PR为llama.cpp补上Q8_0量化支持，并给出多组benchmark。结果显示，ZenDNN在CPU推理上对Llama-3.1-8B、Mixtral-8x7B和Gemma系列都有显著提速，尤其在长提示下收益明显。