arXiv · cs.AI · Tianyu Liu, Jun Zhang, Wenjie Huang, Yuhao Shen, Tianqi Xu, Xinyue Hao, Hongyaoxing Gu, Xuyang Liu, Baolin Zhang, Yating Zhu, Shuang Ge, Jun Dai, Lei Chen, Yue Li, Mingchen Wan · 8 小时前模型评分42
SpecOPD：面向投机解码的分支并行在线策略蒸馏框架
SpecOPD: Branch-Parallel On-Policy Distillation for Speculative Decoding
导读
SpecOPD 提出一种分支并行在线策略蒸馏（OPD，On-Policy Distillation）框架，把草稿采样与目标监督分散到独立分支并行执行，并用提议树共享目标前缀计算。
分类置信度
中 · 待人工复核
- 只有单一媒体来源，需要人工复核。
来源级别：媒体与个人
事件类型：研究发布
证据摘录
- “We propose SpecOPD, a branch-parallel OPD framework that parallelizes draft sampling and target supervision across independent branches drawn from the evolving drafter policy at reference anchors.”
来源：arXiv · cs.AI · arxiv.org