跳到正文
热点事件持续更新

研究:带噪Transformer相变阈值获解析刻画

1 篇报道1 个报道来源7 小时前更新

先了解这件事

AI 综述

Krishnakumar Balasubramanian、Sayan Banerjee 与 Philippe Rigollet 提交的论文修订版,把圆上 McKean-Vlasov 方程的平稳解等价转化为傅里叶系数上的无穷维二次方程组,由此在序列空间中显式刻画平稳态并分析局部分岔。 作者将该理论用于 Noisy Mean-Field Transformer 模型,确定其连续相变与不连续相变的精确阈值 β₀≈2.447,同一阈值也标志首次分岔由超临界转为亚临界。据作者表述,改变逆温度 β 会影响从均匀测度出发的无穷多次分岔的几何形态。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月3日
  1. arXiv · cs.AI
    研究:带噪 Transformer 的 McKean-Vlasov 方程平稳解结构

    一项研究把圆上 McKean-Vlasov 方程的平稳解等价转化为傅里叶系数上的无穷维二次方程组,从而在序列空间中显式刻画平稳态并分析局部分岔。作者将该理论用于 Noisy Mean-Field Transformer 模型,确定其连续与不连续相变的精确阈值 β₀≈2.447,同一阈值也标志首次分岔由超临界转为亚临界。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。