arXiv · cs.AI · Hei Yi Mak, Hoang Le, Mehran Taghian Jazi, Yunke Peng, Huan Lin, Zhengzhi Tang, Zhexu Liu, Yao Wang, Yaoyuan Wang, Anandharaju Durai Raju, Tanzila Rahman · 4 小时前模型评分37
MoeResQ：为 MoE 大模型端到端 FP4 强化学习对齐训练与推理策略
Aligning Training and Rollout Policies for End-to-End FP4 RL on Mixture-of-Experts LLMs
导读
研究提出 MoeResQ，一种面向混合专家（MoE，Mixture-of-Experts）大语言模型 FP4 强化学习后训练的量化恢复方案。分析发现 MoE 路由的离散专家选择使训练与推理策略对齐对恢复技术是否在两侧对称应用极为敏感，稠密模型的不对称方案在此失效；MoeResQ 强制训练侧与推理侧修正对称，恢复训练-推理对齐并大幅缩小与全精度的准确率差距。
分类置信度
中 · 待人工复核
- 只有单一媒体来源，需要人工复核。
来源级别：媒体与个人
事件类型：研究发布
证据摘录
- “Building on this finding, we propose MoeResQ, a quantization-recovery recipe for MoE RL post-training that enforces symmetry between the training- and inference-side corrections.”
来源：arXiv · cs.AI · arxiv.org