Qwen线性注意力优化实践
InfoQ 预告 AICon 深圳站中阿里 Qwen 团队分享 FlashQLA:面向 Qwen 系列 Gated Delta Network 线性注意力层的高性能算子库。方案通过算子融合、数据复用、warp-specialization 与卡内序列并行,缓解 HBM 访存瓶颈和长序列小 batch 下 GPU 利用率不足问题。
事件进展(1 篇报道)
-
2026-07-12 18:00InfoQ 中国 面向 Qwen 系列模型线性注意力的高性能优化实践|AICon深圳