llama.cpp优化CPU注意力
llama.cpp 社区 PR 将 flash-attention V-cache 的 F16 到 F32 转换改为调用硬件 F16C 指令，在部分 CPU 上提升 prompt processing 速度。帖子称在 qwen3:4b 等小模型上可带来约 17% 至 31% 的处理速率增益。
事件进展（1 篇报道）
-
2026-08-13 17:22
llama.cpp 社区 PR 将 flash-attention V-cache 的 F16 到 F32 转换改为调用硬件 F16C 指令，在部分 CPU 上提升 prompt processing 速度。帖子称在 qwen3:4b 等小模型上可带来约 17% 至 31% 的处理速率增益。