跳到正文
arXiv · cs.AI · Youmin Ko, Jihong Jeong, Hyunjoon Kim · 7 小时前模型评分42

ShiftRAG:用解耦学习与连续软 token 绕过文本瓶颈

ShiftRAG: Bypassing the Textual Bottleneck via Decoupled Learning and Continuous Soft Tokens

导读

ShiftRAG 提出一种解耦的检索增强生成(RAG,Retrieval-Augmented Generation)框架,用单一 大语言模型(LLM,Large Language Model) 主干但把判别式检索学习与自回归生成分开训练,并将检索对齐结果投影为连续软 token 作为高带宽接口传给生成器。

生成六维分析
分类置信度

中 · 待人工复核

  • 只有单一媒体来源,需要人工复核。

来源级别:媒体与个人

事件类型:研究发布

证据摘录

  • “To address these limitations, we introduce ShiftRAG, a decoupled RAG framework that employs a single LLM backbone but isolates discriminative retrieval learning from autoregressive generation.”

来源:arXiv · cs.AI · arxiv.org