llama.cpp自适应MTP提案
社区开发者提交 llama.cpp PR#27210,引入自适应 MTP 模式,用简单状态机动态调整 MTP 深度,减少用户手动调参。作者称在普通文本生成中相较固定 MTP 3 约慢 3%,但在代码生成和长上下文回忆场景可能带来明显收益。
事件进展(1 篇报道)
-
2026-08-18 02:05Reddit r/LocalLLaMA llama.cpp adaptive MTP PR#27210
社区开发者提交 llama.cpp PR#27210,引入自适应 MTP 模式,用简单状态机动态调整 MTP 深度,减少用户手动调参。作者称在普通文本生成中相较固定 MTP 3 约慢 3%,但在代码生成和长上下文回忆场景可能带来明显收益。