Liquid AI扩展LFM分词器
Liquid AI分享LFM2.5-8B-A1B的新分词器升级方法,可在不从头训练模型的情况下原地扩展预训练模型分词器。其词表从65K增至128K,旨在改善多语言文本被过度切分的问题,并同步发布博客、技术报告和Hugging Face模型。
事件进展(1 篇报道)
-
2026-07-22 18:28Reddit r/LocalLLaMA Tokenizer Expansion: Upgrading a Model's Tokenizer in Place - LFM2.5-8B-A1B