论文提出本地AI每瓦智能指标
一篇论文提出“Intelligence per Watt”框架,用于衡量本地小模型在能耗、延迟与任务能力之间的效率。文章指出,20B以下本地模型与Apple M4 Max等本地加速器已能在部分任务上接近前沿云模型,有望分担集中式AI推理需求。
事件进展(1 篇报道)
-
2026-09-14 17:16
一篇论文提出“Intelligence per Watt”框架,用于衡量本地小模型在能耗、延迟与任务能力之间的效率。文章指出,20B以下本地模型与Apple M4 Max等本地加速器已能在部分任务上接近前沿云模型,有望分担集中式AI推理需求。