DeepSeek-V4-Flash本地推理提速

一位 Reddit 用户在两张 Nvidia 4090D 48G 上用 vLLM 跑 DeepSeek-V4-Flash，并把 Blackwell 专属内核用 Triton 重写到 sm89 平台。帖子称这样可让并行 agent 工作流获得 2-3 倍提速，并给出了与 llama-server 的对比。

事件进展（1 篇报道）

1. 2026-07-24 03:01
   Reddit r/LocalLLaMA Deepseek V4 Flash ~105 t/s on two Nvidia 4090d 48G (ada) in vLLM

← 返回首页