PerNodeDrop：一种平衡深度神经网络专用子网与正则化的方法

研究提出轻量级随机正则化方法 PerNodeDrop，对每个样本的每个节点施加扰动，打破 Dropout、DropConnect 等现有方法在层或批次上噪声均匀的问题。该方法在样本级丢弃权重，保留有益共适应、缩小训练与验证性能差距，在视觉、文本和音频基准上相比标准噪声正则化方法提升了泛化能力。