Monodratic提出稀疏因果注意力路由

独立研究者提出Monodratic稀疏因果注意力架构，通过学习型产品哈希路由筛选远程源块，并保留局部块后执行精确因果Softmax。初步实验在关联召回任务中取得较高准确率，但仍缺乏更大规模模型和任务验证。

事件进展（1 篇报道）

1. 2026-08-05 18:28
   Reddit r/MachineLearning Monodratic: learned product-hash routing for sparse causal attention [R]

← 返回首页