Gemma大模型跑上iPhone
Noema团队展示在 iPhone 17 Pro 上通过模型分页运行 Gemma 4 26B A4B。方案将非专家权重留在内存、专家权重从 SSD 读取,以较慢生成速度换取移动端运行大模型的可行性。
事件进展(1 篇报道)
-
2026-07-25 05:47Reddit r/LocalLLaMA Gemma 4 26B A4B running on iPhone 17 Pro via model paging
Noema团队展示在 iPhone 17 Pro 上通过模型分页运行 Gemma 4 26B A4B。方案将非专家权重留在内存、专家权重从 SSD 读取,以较慢生成速度换取移动端运行大模型的可行性。