跳到正文
arXiv · cs.AI · Shutong Wu, Jiawei Zhang · 7 小时前模型评分47

FreeDave:面向扩散大语言模型的无损并行解码方法

Free Draft-and-Verification: Toward Lossless Parallel Decoding for Diffusion Large Language Models

导读

FreeDave 是一种无需训练和模型改动的快速解码算法,把扩散大语言模型(dLLM,Diffusion Large Language Model)的未来 token 预测当作“免费草稿”,在后续前向计算中自我验证,从而保证与静态解码生成完全相同的序列。

分类置信度

中 · 待人工复核

  • 只有单一媒体来源,需要人工复核。

来源级别:媒体与个人

事件类型:研究发布

证据摘录

  • “To overcome this, we introduce Free Draft-and-Verification (FreeDave), a novel training-free and model-free fast decoding algorithm.”
  • “Code is available at this https URL .”

来源:arXiv · cs.AI · arxiv.org