arXiv · cs.AI · Roberto Dailey, Kajetan Schweighofer, Jamieson Warner, Conor F. Hayes, Elliot Meyerson, Babak Hodjat, Risto Miikkulainen, Xin Qiu · 4 小时前模型评分43
进化策略悖论：更差的扰动为何能微调出更好的大语言模型
The Evolution Strategies Paradox: Better Models from Worse Perturbations
导读
论文刻画了进化策略（ES，Evolution Strategies）微调大语言模型时的悖论：所有子代模型表现都持续差于父代，父代却在训练中不断提升。研究指出，在高维空间中探索虽降低性能，却能标出好的优化方向，聚合这些方向即可实现局部改进。该发现为利用扰动类方法微调大语言模型和高维优化提供了指导。
分类置信度
中 · 待人工复核
- 只有单一媒体来源，需要人工复核。
来源级别：媒体与个人
事件类型：研究发布
证据摘录
- “This paper characterizes the paradox, then examines how the local reward landscape and properties of the ES estimator contribute to it”
来源：arXiv · cs.AI · arxiv.org