V100运行Qwen达366t/s
开发者开源v100-skinny内核，面向sm70架构优化NVFP4权重推理，并声称Qwen 27B在最佳单流场景可达366 tokens/s。作者提示该数字依赖特定MTP提取场景，结构化生成约240 tokens/s、代码场景约200 tokens/s。
事件进展（1 篇报道）
-
2026-08-12 04:28Reddit r/LocalLLaMA 366 t/s Qwen3.6 27B NVFP4 on v100s
开发者开源v100-skinny内核，面向sm70架构优化NVFP4权重推理，并声称Qwen 27B在最佳单流场景可达366 tokens/s。作者提示该数字依赖特定MTP提取场景，结构化生成约240 tokens/s、代码场景约200 tokens/s。