GGUF支持低显存LoRA训练
开发者发布基于GGUF格式的Qwen3.6-35B-A3B低显存LoRA训练方案,借助APEX量化将模型压至约13.3GiB,可在16GB显存下训练。项目支持MoE、线性注意力、DeepSeek类注意力和1-bit量化等新模型形态。
事件进展(1 篇报道)
-
2026-07-21 13:35Reddit r/LocalLLaMA LoRA over GGUF: Train Qwen3.6-35B-A3B in 16G VRAM
开发者发布基于GGUF格式的Qwen3.6-35B-A3B低显存LoRA训练方案,借助APEX量化将模型压至约13.3GiB,可在16GB显存下训练。项目支持MoE、线性注意力、DeepSeek类注意力和1-bit量化等新模型形态。