arXiv · cs.AI · Yue He, Jiahui Hu, Shaman Tang, Hua Zhou, Qiman Wu, Menglin Li, Yizhao Wang, Yuheng Zhang, Da Zhu, Zhou Wang, Anhua Liu, Hanlin Chen, Mingyuan Wang, Rui Xin, Yuhua Wei, Shuang Su, Siqi Liu, Kai Yang, Weichao Huang, Hang Zhang, Honggou Yang, Xianming Liu2026-11-02 13:00 · 9 小时前模型评分42

Turing 大语言模型（LLM，Large Language Model）后训练：校准蒸馏与高效动态混合专家（MoE，Mixture of Experts）执行

Turing LLM Post-Training: Calibrated Distillation and Efficient Dynamic-MoE Execution

导读

研究提出 Turing 大语言模型（LLM，Large Language Model）后训练方案，将校准多教师同策略蒸馏（C-MOPD）与动态路由混合专家（混合专家（MoE，Mixture of Experts））执行路径结合，在 Turing-20B-A2B 上四领域归一化整合得分达 0.9988，每个领域保留至少 90.16% 的专家增益。

生成六维分析

分类置信度

中 · 待人工复核

只有单一媒体来源，需要人工复核。

来源级别：媒体与个人

事件类型：研究发布

证据摘录

“We study post-training for dynamically routed mixture-of-experts (MoE) models, focusing on integrating independently optimized specialists while keeping consolidation efficient.”

来源：arXiv · cs.AI · arxiv.org

推理能力数据与训练论文研究 #论文/研究 #数据/训练 #推理

Turing 大语言模型（LLM，Large Language Model） 后训练：校准蒸馏与高效动态 混合专家（MoE，Mixture of Experts） 执行

Turing 大语言模型（LLM，Large Language Model）后训练：校准蒸馏与高效动态混合专家（MoE，Mixture of Experts）执行