Agent优化Kimi内核提速
社区展示一组GPT 5.6 Sol代理协作优化类Kimi K3模型内核,将吞吐从65 tok/s提升至406 tok/s。优化包括算子融合、执行图压缩,以及针对KDA、MLA和MoE的WebGPU自定义内核,后续将发布框架。
事件进展(1 篇报道)
-
2026-07-25 00:41Reddit r/LocalLLaMA Agentic Kernel Optimization, visualized.
社区展示一组GPT 5.6 Sol代理协作优化类Kimi K3模型内核,将吞吐从65 tok/s提升至406 tok/s。优化包括算子融合、执行图压缩,以及针对KDA、MLA和MoE的WebGPU自定义内核,后续将发布框架。