跳到正文
arXiv · cs.AI · Jiaying Zhou, Jiachen Liu, Qingchao Chen · 10 小时前模型评分32

一个偏移、两个方向:用子组偏移调整 GRPO 基线

One Offset, Two Directions: Baseline Adjustment via Subgroup Offsets

导读

研究提出用“子组偏移”调整分组相对策略优化(GRPO,Group Relative Policy Optimization)的基线:按解题策略把同一提示词下的多条采样轨迹分成子组,用单一带符号系数λ沿子组均值与全局均值的偏差平移基线,λ>0为对齐、λ<0为对比,且只改基线、不动奖励信号与优化目标。

生成六维分析
分类置信度

中 · 待人工复核

  • 只有单一媒体来源,需要人工复核。

来源级别:媒体与个人

事件类型:研究发布

证据摘录

  • “We therefore study how to adjust the baseline when the rollouts of a prompt fall into heterogeneous subgroups.”

来源:arXiv · cs.AI · arxiv.org