跳到正文
arXiv · cs.AI · Muyao Yuan, Liyan Xu, Weizhan Zhang, Muyan Jiao, Jiangnan Li, Jinchao Zhang, Jie Zhou · 5 小时前模型评分42

LoCo:用局部偏好学习压缩大模型推理链

Think Less, Locally: Local Preference Learning for Reasoning Compression

导读

研究者提出局部偏好学习(LoCo,Local Preference Learning),从模型自身推理轨迹中识别过度思考状态,冻结对应前缀后重新生成更短的验证续写,再用直接偏好优化(DPO,Direct Preference Optimization)训练模型判断何时继续推理、何时收尾。

分类置信度

中 · 待人工复核

  • 只有单一媒体来源,需要人工复核。

来源级别:媒体与个人

事件类型:研究发布

证据摘录

  • “We propose LoCo, a local preference learning method for reasoning compression.”
  • “The code and model will be publicly released at this https URL .”

来源:arXiv · cs.AI · arxiv.org