USAF稀疏微调方法开源
开发者开源面向MoE模型的稀疏微调方法USAF,主张只要GPU能跑推理就应能微调。其在12GB显存的AMD RX 6750 XT上,通过训练稀疏专家权重和路由器微调Qwen3-30B-A3B,项目采用Apache 2.0许可。
事件进展(1 篇报道)
-
2026-07-05 05:56Reddit r/MachineLearning If your GPU can run inference, it should be able to fine-tune too. [P]