MTPLX V2提升MLX推理
MTPLX发布V2版本,称通过Turbo Mode、自定义量化矩阵乘内核和编译验证步骤,在M5 Max MacBook Pro上运行Qwen 3.6 27B可达82 TPS。新版还改进SSD KV Cache和长上下文工具调用能力。
事件进展(1 篇报道)
-
2026-07-09 11:08
MTPLX发布V2版本,称通过Turbo Mode、自定义量化矩阵乘内核和编译验证步骤,在M5 Max MacBook Pro上运行Qwen 3.6 27B可达82 TPS。新版还改进SSD KV Cache和长上下文工具调用能力。