mlx-dspark加速Qwen3.8

mlx-dspark 0.10.0加入Qwen3.8-27B支持，利用推测解码在M4 Pro上将8位模型平均提速2.45倍，数学任务最高约3倍。测试称输出与普通贪心解码一致，8位模型加速后速度还能超过未加速的4位模型。

事件进展（1 篇报道）

1. 2026-08-15 05:54
   Reddit r/LocalLLaMA Qwen3.8-27B is now up to ~3× faster on Apple Silicon with mlx-dspark

← 返回首页