跳到正文
arXiv · cs.AI · Chongyi Zheng, Zhiyuan Zhou, Qiyang Li, Benjamin Eysenbach, Sergey Levine · 8 小时前模型评分40

Value Forcing:在所有噪声水平上对齐回报分布

Value Forcing: Aligning Return Distributions at All Noise Levels

导读

研究者提出 Value Forcing,用流匹配(flow matching,一种学习概率分布变换的生成建模方法)估计回报分布,并在每个噪声水平上强制满足贝尔曼一致性,从而在数据有限时更准确地学习价值函数。该方法实例化为演员-评论家算法 VF 和隐式价值学习算法 IVF,在离线强化学习的 26 个长程任务上均优于此前的价值学习方法,数据有限时提升尤其明显。

生成六维分析
分类置信度

中 · 待人工复核

  • 只有单一媒体来源,需要人工复核。

来源级别:媒体与个人

事件类型:研究发布

证据摘录

  • “In this paper, we introduce Value Forcing, a new approach that uses flow matching to estimate return distributions and enables accurate value learning from limited data.”

来源:arXiv · cs.AI · arxiv.org