Strix Halo本地跑Qwen3.8
用户在ROG Flow Z13的Ryzen AI Max+ 395与128GB统一内存上运行Qwen3.8-27B Q8_0,使用llama.cpp ROCm、Q8 KV缓存和MTP推测解码。其称生成单页飞行模拟器表现突出,速度约9-19 tok/s,MTP接受率可达97-99%。
事件进展(1 篇报道)
-
2026-08-17 16:24Reddit r/LocalLLaMA Qwen3.8-27B Q8_0 on Strix Halo is seriously impressive