研究提出逐样本逐节点随机正则化方法PerNodeDrop

研究提出一种轻量级随机正则化方法 PerNodeDrop，对每个样本的每个节点分别施加扰动。该方法针对 Dropout、DropConnect 等现有方法在层或批次上噪声均匀的问题，改为在样本级丢弃权重。 研究称，这一做法可保留有益的共适应、缩小训练与验证之间的性能差距，并在视觉、文本和音频基准上相比标准噪声正则化方法提升了泛化能力。该结论来自论文自述的实验结果。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。