arXiv · cs.AI · Minhua Lin, Zijun Wang, Zewen Liu, Zhaotian Weng, Bing He, Zhan Shi, Benoit Dumoulin, Xiang Zhang, Suhang Wang, Hanqing Lu · 11 小时前模型评分59
LM2LM：用强化学习训练大语言模型提出模型改进方案
Language Models Learn to Improve Language Models
导读
研究团队提出 LM2LM，用强化学习训练大语言模型生成有效的语言模型改进提案。该方法以冻结的大语言模型作为研究世界模型（RWM，Research World Model），根据上下文中的真实实验记录预测提案收益并充当奖励模型，同时定期真实执行高排名提案、把实测结果写回上下文以保持反馈可靠。
分类置信度
中 · 待人工复核
- 只有单一媒体来源，需要人工复核。
来源级别：媒体与个人
事件类型：研究发布
证据摘录
- “To address these challenges, we propose LM2LM, which trains LLMs with RL to generate effective LM improvement proposals.”
来源：arXiv · cs.AI · arxiv.org