论文提出权重Gram矩阵刻画深度网络特征线性化

Taehun Cha等作者发布论文，提出一个以特征为中心的分析框架：用“特征学习方程”把权重更新与特征演化联系起来，并称权重 Gram 矩阵是刻画特征动态的关键对象。 作者据此提出“目标线性度”，用来衡量特征与目标之间的线性对齐程度，并发现深度网络会逐层把表示变换为接近目标线性的结构。作者称，这一视角可统一解释 Neural Collapse 与生成模型线性插值等现象。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。