bitsandbytes作者预告新量化
bitsandbytes作者Tim Dettmers预告新量化方法，称GLM-5.3可在单台DGX Spark上以约7 tokens/s运行，并提到DeepSeek V4 Pro在B300上的实验。社区对新方案保持谨慎观望，关注其能否真正降低大模型本地推理门槛。
事件进展（1 篇报道）
-
2026-08-14 21:10
bitsandbytes作者Tim Dettmers预告新量化方法，称GLM-5.3可在单台DGX Spark上以约7 tokens/s运行，并提到DeepSeek V4 Pro在B300上的实验。社区对新方案保持谨慎观望，关注其能否真正降低大模型本地推理门槛。