Eider推理运行时开源
开发者发布面向 NVIDIA DGX Spark/Grace Blackwell 的 Eider 推理与服务运行时,采用 Rust 和 CUDA 从零实现,重点利用 SM121 GPU 的 NVFP4 能力。项目支持 Qwen3.6、Step-3.7-Flash、Gemma 4 等模型,并具备专家从磁盘分页加载能力。
事件进展(1 篇报道)
-
2026-07-20 07:47Reddit r/LocalLLaMA Eider: an inference runtime for the DGX Spark