llama.cpp修复旧GPU MTP崩溃

社区用户为 llama.cpp 的 CUDA 后端提交 MTP 解码兼容补丁，避免旧款 Kepler/Maxwell/Pascal/Turing GPU 因误选 BF16 计算而触发 cuBLAS 崩溃。补丁会按硬件能力在 BF16、FP16、FP32 间回退，测试称 Tesla K40c 上启用 MTP 后速度可达约 25 tok/s。

事件进展（1 篇报道）

1. 2026-07-15 03:53
   Reddit r/LocalLLaMA MTP decoding patched for pre-Ampere GPUs (Kepler/Maxwell/Pascal/Turing)

← 返回首页