低价CPU运行Qwen小模型

Reddit用户在2017年Amlogic A113X四核Cortex-A53芯片上运行Qwen3.5-0.8B，峰值内存约490MiB，无GPU/NPU且不用llama.cpp。该实验显示小模型可在已部署的智能家居网关等低成本边缘设备上进行本地推理，但测试仅为5题烟测，并非正式基准。

事件进展（1 篇报道）

1. 2026-08-12 17:51
   Reddit r/LocalLLaMA I ran Qwen3.5-0.8B on a sub-$20 CPU chip in under 512MiB of memory

← 返回首页