社区热议HOLA线性注意力
LocalLLaMA 用户讨论 HOLA 架构在极小 KV Cache、长上下文和困惑度表现上的潜力,认为其相较部分加速方案被低估。帖子聚焦线性注意力在本地大模型推理效率上的可能突破,但仍属社区技术讨论。
事件进展(1 篇报道)
-
2026-07-07 18:55Reddit r/LocalLLaMA Going full linear or nearly there (almost no kv cache, always bf16)
LocalLLaMA 用户讨论 HOLA 架构在极小 KV Cache、长上下文和困惑度表现上的潜力,认为其相较部分加速方案被低估。帖子聚焦线性注意力在本地大模型推理效率上的可能突破,但仍属社区技术讨论。