跳到正文
热点事件持续更新

研究者提出OC-OPD在线策略蒸馏方法

1 篇报道1 个报道来源7 小时前更新

先了解这件事

AI 综述

Ruoran Xu 等作者发布论文,提出观测协调在线策略蒸馏方法 OC-OPD,并将代码公开。该方法把学生模型和教师模型同时用作候选来源与评估者,构建四观测矩阵来协调反向 KL 散度与正向 KL 散度两种监督信号。 论文称,在非思考生成、思考生成和基座模型初始化三种学生设置下,OC-OPD 均提升了数学推理表现,并可迁移到分布外科学问答和代码生成任务。这些效果目前来自论文自述,尚未见独立复现。

AI 根据报道生成 · 3 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月3日
  1. arXiv · cs.AI
    OC-OPD:用观测协调监督的在线策略蒸馏方法

    研究者提出观测协调在线策略蒸馏(OC-OPD,Observation-coordinated On-Policy Distillation),把学生模型和教师模型同时当作候选来源与评估者,构建四观测矩阵来协调反向与正向 KL 散度两种监督信号。该方法在非思考生成、思考生成和基座模型初始化三种学生设置下均提升了数学推理表现,并可迁移到分布外科学问答和代码生成任务,代码已公开。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。