华为开源本地推理量化器MACaQ
华为发布内部量化工具MACaQ，支持面向文本、图像、视频和音频模型的跨框架本地推理量化，并兼容llama.cpp、vLLM、Diffusers与PyTorch。项目称可在32.5GB设备内存下64分钟完成1220亿参数模型量化，同时推出MACaQ-R用于优化既有GGUF模型质量并适配具体工作负载。
事件进展（1 篇报道）
-
2026-11-12 04:23
华为发布内部量化工具MACaQ，支持面向文本、图像、视频和音频模型的跨框架本地推理量化，并兼容llama.cpp、vLLM、Diffusers与PyTorch。项目称可在32.5GB设备内存下64分钟完成1220亿参数模型量化，同时推出MACaQ-R用于优化既有GGUF模型质量并适配具体工作负载。