华为分享盘古通信优化
华为2012实验室专家将在AICon深圳分享盘古模型在昇腾平台上的训练与推理通信优化实践。其方案针对MoE AllToAll通信和超长上下文KV Cache传输瓶颈,分别在昇腾950拓扑适配与Omni Cache卸载中实现10%以上性能提升。
事件进展(1 篇报道)
-
2026-08-17 18:00InfoQ 中国 盘古训练与推理通信优化实践:亲和昇腾平台的性能探索|AICon深圳
华为2012实验室专家将在AICon深圳分享盘古模型在昇腾平台上的训练与推理通信优化实践。其方案针对MoE AllToAll通信和超长上下文KV Cache传输瓶颈,分别在昇腾950拓扑适配与Omni Cache卸载中实现10%以上性能提升。