专用词表将小模型推理成本降低77%

Hugging Face介绍一项面向领域专用小模型的词表优化研究，通过按生成成本而非词频调整词表，在一项实际应用中将测得的推理成本降低77%。研究称无需更换基础模型，相关论文即将发布。

事件进展（1 篇报道）

1. 2026-10-22 01:35
   Hugging Face Blog How Specializing the Vocabulary of SLMs Can Cut Inference Cost by 77% in Real Applications

← 返回首页