arXiv · cs.AI · Taehun Cha, Daniel Beaglehole, Adityanarayanan Radhakrishnan, Donghun Lee · 8 小时前模型评分33
权重 Gram 矩阵如何刻画深度网络中的序列特征线性化
The Weight Gram Matrix Captures Sequential Feature Linearization in Deep Networks
导读
一项 NeurIPS 2026 论文提出以特征为中心的分析框架,用“特征学习方程”把权重更新与特征演化联系起来,指出权重 Gram 矩阵是刻画特征动态的关键对象。作者据此提出目标线性度(Target Linearity),衡量特征与目标之间的线性对齐程度,并发现深度网络会逐层将表示变换为接近目标线性的结构。该视角统一解释了 Neural Collapse 与生成模型线性插值等现象。
分类置信度
中 · 待人工复核
- 只有单一媒体来源,需要人工复核。
来源级别:媒体与个人
事件类型:研究发布
证据摘录
- “In this work, we propose a feature-centric framework for analyzing neural network training by relating weight updates to feature evolution.”
来源:arXiv · cs.AI · arxiv.org