Qwen3.8量化评测缺口热议
Reddit用户指出Qwen3.8-27B榜单成绩多基于BF16权重,但实际本地用户多运行4-bit量化版本,两者并非同一可用形态。帖文呼吁用统一框架横向测试BF16、Q8、Q6、Q5、Q4、IQ4等版本,并覆盖长上下文、数学、工具调用JSON等易退化场景。
事件进展(1 篇报道)
-
2026-08-18 05:53Reddit r/LocalLLaMA we benchmark models nobody actually runs
Reddit用户指出Qwen3.8-27B榜单成绩多基于BF16权重,但实际本地用户多运行4-bit量化版本,两者并非同一可用形态。帖文呼吁用统一框架横向测试BF16、Q8、Q6、Q5、Q4、IQ4等版本,并覆盖长上下文、数学、工具调用JSON等易退化场景。