LFM2.5发布量化感知蒸馏模型
Hugging Face发布LFM2.5 Q4_0量化感知蒸馏检查点,通过高精度教师模型训练量化学生模型,在保持原生Q4_0内存占用和推理速度的同时恢复约97%的量化精度损失。基准覆盖推理、指令遵循、工具调用和智能体能力,适合本地部署场景。
事件进展(2 篇报道)
-
2026-08-19 21:48Hugging Face Blog LFM2.5 Q4\_0 Checkpoints from Quantization-Aware Distillation
-
2026-08-20 00:59Reddit r/LocalLLaMA LFM 2.5 QAD