arXiv · cs.AI · Krishnakumar Balasubramanian, Sayan Banerjee, Philippe Rigollet · 7 小时前模型评分31
研究：带噪 Transformer 的 McKean-Vlasov 方程平稳解结构
On the Structure of Stationary Solutions to McKean-Vlasov Equations with Applications to Noisy Transformers
导读
一项研究把圆上 McKean-Vlasov 方程的平稳解等价转化为傅里叶系数上的无穷维二次方程组，从而在序列空间中显式刻画平稳态并分析局部分岔。作者将该理论用于 Noisy Mean-Field Transformer 模型，确定其连续与不连续相变的精确阈值 β₀≈2.447，同一阈值也标志首次分岔由超临界转为亚临界。
分类置信度
中 · 待人工复核
- 只有单一媒体来源，需要人工复核。
来源级别：媒体与个人
事件类型：研究发布
证据摘录
- “We apply the theory to the Noisy Mean-Field Transformer model, where we show how changing the inverse temperature $\beta$ affects the geometry of the infinitely many bifurcations from the uniform measure.”
来源：arXiv · cs.AI · arxiv.org