北大团队提出SFA注意力机制
热点事件持续更新
北大团队提出SFA注意力机制
1 篇报道1 个报道来源7 小时前更新
先了解这件事
AI 综述
北京大学Zixuan Huang等提出无标度注意力SFA，用于扩散Transformer图像生成。论文称，在262,144个token下，其前向和反向传播相比FlashAttention分别实现357.3倍和265.6倍加速。 SFA受统计物理中的无标度律启发：保留局部精细交互，同时对远处区域按逐渐变粗的尺度进行汇总。
AI 根据报道生成 · 2 小时前更新
最新进展11月3日 13:00
北大团队提出 SFA：受统计物理启发的扩散 Transformer 注意力机制报道时间线
沿着报道，了解事件的不同侧面。
11月3日
- arXiv · cs.AI北大团队提出 SFA：受统计物理启发的扩散 Transformer 注意力机制
北京大学团队提出受统计物理启发的无标度注意力（SFA，Scale-Free Attention），在 262,144 个 token 下相比 FlashAttention 实现 357.3 倍前向和 265.6 倍反向加速。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。