Hugging Face Blog·· 7 天前AI 评分52
专门化小模型词表可在实际应用中把推理成本降低 77%
How Specializing the Vocabulary of SLMs Can Cut Inference Cost by 77% in Real Applications
AI 导读
团队预览即将发表的 VocabX 论文：基于 Qwen、Gemma 等开源模型微调的领域模型继承了通用词表，在其生产环境的作文评分器中常用文本被切成过多 token，专门化词表后推理成本降低 77%。
来源：Hugging Face Blog · huggingface.co