AI 前沿 重要度 5

手机闪存流式运行120B模型

有开发者在OnePlus 15R上用CPU和手机闪存流式运行GPT-OSS-120B、Qwen 30B、Gemma 26B等模型,60GB量级模型在约11GB可用内存下达到1-5 token/s。该方案依赖MoE专家按需加载,展示了本地大模型推理与存储带宽结合的新玩法。

事件进展(1 篇报道)

  1. 2026-07-18 01:05

← 返回首页