ELDR优化MoE解码路由
ELDR 提出面向预填充-解码分离式 MoE 服务的专家局部性感知解码路由。它利用预填充阶段专家激活预测生成阶段专家访问模式，在负载均衡之外减少专家权重加载开销，旨在降低 MoE 推理延迟。
事件进展（1 篇报道）
-
2026-07-03 22:19Reddit r/LocalLLaMA ELDR: Expert-Locality-Aware Decode Routing for PD-Disaggregated MoE Serving
ELDR 提出面向预填充-解码分离式 MoE 服务的专家局部性感知解码路由。它利用预填充阶段专家激活预测生成阶段专家访问模式，在负载均衡之外减少专家权重加载开销，旨在降低 MoE 推理延迟。