EdgeRazor低比特蒸馏框架

论文提出EdgeRazor，通过熵引导蒸馏将教师模型输出分布迁移到学生模型的低比特混合精度特征中。方法可在约1.88 bit/参数下保留更多能力，且不要求llama.cpp等推理实现修改。

事件进展（1 篇报道）

1. 2026-08-03 03:55
   Reddit r/LocalLLaMA [Paper] EdgeRazor: A Lightweight Framework for Large Language Models via Mixed-Precision Quantization-Aware Distillation

← 返回首页