QuarkStar本地推理引擎
开发者发布受DwarfStar启发的QuarkStar原生推理引擎,面向16GB内存机器运行Qwen3.6-35B-A3B等小激活MoE模型。项目支持Linux Vulkan、Apple Silicon Metal,以及模型不完全驻留内存时的SSD专家流式加载。
事件进展(1 篇报道)
-
2026-08-04 21:26
开发者发布受DwarfStar启发的QuarkStar原生推理引擎,面向16GB内存机器运行Qwen3.6-35B-A3B等小激活MoE模型。项目支持Linux Vulkan、Apple Silicon Metal,以及模型不完全驻留内存时的SSD专家流式加载。