高通GenieX支持端侧LLM

高通推出 GenieX，用于在其 Windows 笔记本平台上运行大语言模型，支持 CPU、GPU、NPU 等路径。社区测试称 Gemma 4 26B A4B 可达约20 tok/s，Qwen 3.6 27B MTP 在 GPU 上约10 tok/s，显示高通正补齐端侧 AI SDK 能力。

事件进展（1 篇报道）

1. 2026-07-06 02:43
   Reddit r/LocalLLaMA Qualcomm launches GenieX to run LLMs on their Windows Laptops

← 返回首页