P²-MOPD：把专家参数当先验做在线策略蒸馏

Sinuo Wang等作者提出P²-MOPD多教师在线策略蒸馏方法：把学生模型与各专家参数的线性组合视为一个单一可微模型，在同一个在线策略蒸馏目标下联合优化混合系数和学生权重。 据论文描述，这一做法的关键在于把专家仅当作参数先验，而非约束学生模型的教师，因此学生不会被专家限制。论文未报告该方法相对现有方法的实验结果。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。