ExLlamaV3 1.0.0 发布

ExLlamaV3 发布首个生产版，主打本地大模型推理性能升级，开发者称其经过一年多打磨后进入稳定可用阶段。新版本移除了 flash-attention-2 和 xformers 依赖，扩展了张量并行支持，并加入新的 attention、GEMM/GEMV 和 MoE 调度优化。

事件进展（1 篇报道）

1. 2026-07-15 15:17
   Reddit r/LocalLLaMA ExLlamaV3 v1.0.0 - Major Performance Upgrades

← 返回首页