75B MoE本地推理热议
Reddit 用户展示 NVIDIA Nemotron-3-Puzzle-75B-A9B 以 NVFP4 在 3 张 RTX 3090 上运行，三路解码约 132 tokens/s，整机墙上功耗约 500W。帖子认为 75B 总参、9B 激活的 MoE 形态很适合多 24GB 显卡本地部署，但该尺寸段模型供给稀少。
事件进展（1 篇报道）
-
2026-07-09 23:53
Reddit 用户展示 NVIDIA Nemotron-3-Puzzle-75B-A9B 以 NVFP4 在 3 张 RTX 3090 上运行，三路解码约 132 tokens/s，整机墙上功耗约 500W。帖子认为 75B 总参、9B 激活的 MoE 形态很适合多 24GB 显卡本地部署，但该尺寸段模型供给稀少。