开发者与开源 重要度 4

FlashAttention代数教程发布

Reddit 机器学习社区作者发布 FlashAttention 系列教程第一部分,聚焦其代数基础与可结合归约形式。文章解释 safe softmax、Welford 方差与 FlashAttention 的共同结构,并推导 FA-2 与 Triton 内核中的 qk_scale 及数值稳定性边界。

事件进展(2 篇报道)

  1. 2026-07-08 07:57
  2. 2026-07-08 08:02

← 返回首页