Gemma 4量化提升推理
社区开发者发布 Gemma 4 E4B IQ2_XXS 量化版本，通过张量级精度分配在 3.3GB 预算下将推理成绩从 28.9 提升至 69.5。作者称该方法在极低比特量化下保留了 BF16 源模型约 96.7% 的推理表现，对本地小显存部署有参考价值。
事件进展（1 篇报道）
-
2026-08-15 21:29
社区开发者发布 Gemma 4 E4B IQ2_XXS 量化版本，通过张量级精度分配在 3.3GB 预算下将推理成绩从 28.9 提升至 69.5。作者称该方法在极低比特量化下保留了 BF16 源模型约 96.7% 的推理表现，对本地小显存部署有参考价值。