Transformers支持GGUF量化

Hugging Face宣布Transformers可直接运行llama.cpp生态的GGUF量化模型，用户可通过from_pretrained在本地加载并生成。此举打通Transformers与Ollama、LM Studio、Jan等本地推理生态常用格式，降低笔记本运行大模型的门槛。

事件进展（1 篇报道）

1. 2026-09-22 08:00
   Hugging Face Blog Transformers now runs llama.cpp quants

← 返回首页