Diffusers接入Nunchaku四位推理
Hugging Face在Diffusers中加入Nunchaku 4-bit扩散模型推理支持,用户可通过from_pretrained直接加载相关checkpoint。其背后的SVDQuant采用W4A4权重与激活量化,较常见weight-only方案不仅省显存,也可加速扩散模型去噪循环。
事件进展(1 篇报道)
-
2026-07-23 08:00Hugging Face Blog Bringing Nunchaku 4-bit Diffusion Inference to Diffusers