arXiv · cs.AI · Ruoran Xu, Yilun Zhao, Ziyu Chen, Xiaoqiang kang, Arman Cohan · 8 小时前模型评分46
研究揭示在线策略蒸馏的“证据绕过”问题，并提出 EP-OPD 方法
Better Answers, Weaker Evidence Control: Evidence Bypass in On-Policy Distillation
导读
研究发现在线策略蒸馏（OPD，On-Policy Distillation）虽能提升答案准确率，却会削弱模型对支撑证据的响应：在 QASPER 上，Qwen3-4B 学生模型原始文档准确率提高 3.4 个百分点，反事实准确率下降 5.3 个百分点，证据绕过增加 15.7 个百分点。
分类置信度
中 · 待人工复核
- 只有单一媒体来源，需要人工复核。
来源级别：媒体与个人
应用领域：科学研究
事件类型：研究发布
证据摘录
- “These findings motivate Evidence-Paired OPD (EP-OPD), which combines on-policy supervision on matched documents supporting different answers to the same question with an answer-level margin that favors each document's supported answer over its paired alternative.”
- “Our code is publicly available at: this https URL .”
来源：arXiv · cs.AI · arxiv.org