跳到正文
arXiv · cs.AI · Peng Gao, Yujian Lee, Yin Zhang, Yanglin Zhang, Haonan Wu, Zishan Liu, Ruoxi Zang, Xin Zhu, Jiayin Zheng, Jian Yao, Zefeng Ji, Fei Ma · 9 小时前模型评分32

用 Faithful Warm-Start 策略提升视觉语言模型强化学习的视觉忠实度

Be Faithful When Response: Returning Fluent and Grounded Answers for Vision-Language Models Reinforcement Learning

导读

研究者提出 Faithful Warm-Start(FWS)策略,先从六个通用视觉问答(VQA,Visual Question Answering)基准中筛选具有明确视觉-语言因果关系的样本构建 FaithfulQA 数据集,再用基于视觉语言模型的评判器提纯,随后才进行稀疏答案级奖励的强化学习优化。实验显示这种忠实监督提升了答案准确率、稳定了强化学习训练,并减少了缺乏视觉依据的推理。

生成六维分析
分类置信度

中 · 待人工复核

  • 只有单一媒体来源,需要人工复核。

来源级别:媒体与个人

事件类型:研究发布

证据摘录

  • “To this end, we propose a Faithful Warm-Start (FWS) strategy that first curates samples with explicit vision-language causal relationships from six general VQA benchmarks to construct the FaithfulQA dataset”

来源:arXiv · cs.AI · arxiv.org