arXiv · cs.AI · Youmin Ko, Jihong Jeong, Hyunjoon Kim · 7 小时前模型评分42
ShiftRAG:用解耦学习与连续软 token 绕过文本瓶颈
ShiftRAG: Bypassing the Textual Bottleneck via Decoupled Learning and Continuous Soft Tokens
导读
ShiftRAG 提出一种解耦的检索增强生成(RAG,Retrieval-Augmented Generation)框架,用单一 大语言模型(LLM,Large Language Model) 主干但把判别式检索学习与自回归生成分开训练,并将检索对齐结果投影为连续软 token 作为高带宽接口传给生成器。
分类置信度
中 · 待人工复核
- 只有单一媒体来源,需要人工复核。
来源级别:媒体与个人
事件类型:研究发布
证据摘录
- “To address these limitations, we introduce ShiftRAG, a decoupled RAG framework that employs a single LLM backbone but isolates discriminative retrieval learning from autoregressive generation.”
来源:arXiv · cs.AI · arxiv.org