芯片算力 重要度 6

昇腾SuperPOD优化DeepSeek-V4后训练

研究介绍了在昇腾 NPU SuperPOD 上对 DeepSeek-V4 家族进行全参数后训练的系统优化实践,重点解决超大 MoE 模型训练中的显存压力、通信开销和 kernel 效率问题。方案从模型并行、计算通信协同到底层 kernel 做了端到端优化,宣称将 MFU 提升到 34.22%,较开源基线提高 2.93 倍。

事件进展(1 篇报道)

  1. 2026-07-23 16:13

← 返回首页