mistral.rs发布0.9版
mistral.rs v0.9.0称在x86与ARM CPU上解码速度最高比llama.cpp快1.8倍。测试覆盖Qwen3 4B Q4_K等模型,并公开方法、表格与复现脚本。
事件进展(1 篇报道)
-
2026-07-07 23:36Reddit r/LocalLLaMA mistral.rs v0.9.0: up to 1.8x faster CPU decode than llama.cpp on x86 and ARM!
mistral.rs v0.9.0称在x86与ARM CPU上解码速度最高比llama.cpp快1.8倍。测试覆盖Qwen3 4B Q4_K等模型,并公开方法、表格与复现脚本。