arXiv · cs.AI · Shutong Wu, Jiawei Zhang · 7 小时前模型评分47
FreeDave:面向扩散大语言模型的无损并行解码方法
Free Draft-and-Verification: Toward Lossless Parallel Decoding for Diffusion Large Language Models
导读
FreeDave 是一种无需训练和模型改动的快速解码算法,把扩散大语言模型(dLLM,Diffusion Large Language Model)的未来 token 预测当作“免费草稿”,在后续前向计算中自我验证,从而保证与静态解码生成完全相同的序列。
分类置信度
中 · 待人工复核
- 只有单一媒体来源,需要人工复核。
来源级别:媒体与个人
事件类型:研究发布
证据摘录
- “To overcome this, we introduce Free Draft-and-Verification (FreeDave), a novel training-free and model-free fast decoding algorithm.”
- “Code is available at this https URL .”
来源:arXiv · cs.AI · arxiv.org