SpecOPD：面向投机解码的分支并行在线蒸馏框架

Tianyu Liu 等作者发布论文，提出面向投机解码的分支并行在线策略蒸馏框架 SpecOPD。论文称，该框架把草稿采样与目标监督分散到独立分支并行执行，这些分支从参考锚点处不断演化的草稿策略中采样；同时用提议树共享目标前缀计算。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。