arXiv · cs.AI · Chongyi Zheng, Zhiyuan Zhou, Qiyang Li, Benjamin Eysenbach, Sergey Levine · 8 小时前模型评分40
Value Forcing:在所有噪声水平上对齐回报分布
Value Forcing: Aligning Return Distributions at All Noise Levels
导读
研究者提出 Value Forcing,用流匹配(flow matching,一种学习概率分布变换的生成建模方法)估计回报分布,并在每个噪声水平上强制满足贝尔曼一致性,从而在数据有限时更准确地学习价值函数。该方法实例化为演员-评论家算法 VF 和隐式价值学习算法 IVF,在离线强化学习的 26 个长程任务上均优于此前的价值学习方法,数据有限时提升尤其明显。
分类置信度
中 · 待人工复核
- 只有单一媒体来源,需要人工复核。
来源级别:媒体与个人
事件类型:研究发布
证据摘录
- “In this paper, we introduce Value Forcing, a new approach that uses flow matching to estimate return distributions and enables accurate value learning from limited data.”
来源:arXiv · cs.AI · arxiv.org