Sparse Delta Memory论文发布

新论文提出Sparse Delta Memory架构，通过稀疏寻址将门控线性RNN的显式记忆容量扩展到更高规模。该方法试图在固定计算预算下提升线性注意力模型的长上下文召回能力，缓解其相较softmax Transformer在长程记忆上的短板。

事件进展（1 篇报道）

1. 2026-07-10 12:45
   Reddit r/LocalLLaMA [Paper] Sparse Delta Memory: Scaling the State of Linear RNNs through Sparsity

← 返回首页