LinkedIn披露职位搜索蒸馏系统
LinkedIn 公布 AI 职位搜索训练基础设施,通过基于 SGLang 的多教师蒸馏框架,将大型教师模型知识压缩到 6 亿参数排序模型。其在线与离线蒸馏结合方案配合 LiGer、FSDP2、H200 多节点集群等优化,显著提升训练迭代速度并降低服务开销。
事件进展(1 篇报道)
-
2026-09-17 17:05InfoQ 中国 在线蒸馏灵活却太慢,离线缓存高效却不够灵活,LinkedIn 如何取舍?
LinkedIn 公布 AI 职位搜索训练基础设施,通过基于 SGLang 的多教师蒸馏框架,将大型教师模型知识压缩到 6 亿参数排序模型。其在线与离线蒸馏结合方案配合 LiGer、FSDP2、H200 多节点集群等优化,显著提升训练迭代速度并降低服务开销。