arXiv · cs.AI · Dancheng Liu, Markus M\"uller, Rupak Vignesh Swaminathan, Jing Liu, Srikanth Ronanki, Aram Galstyan · 8 小时前模型评分34
C3:面向长上下文 SpeechLLM 推理的语音引导 KV 检索方法
C3: Speech-Guided KV Retrieval for Long-Context SpeechLLM Inference
导读
研究提出 C3(Cluster-Compete-Compete)方法,用分层键空间索引组织音频 KV,让共享同一 KV 头的查询头竞争统一检索预算,并通过成对拆分-合并自适应调整检索分辨率。
分类置信度
中 · 待人工复核
- 只有单一媒体来源,需要人工复核。
来源级别:媒体与个人
事件类型:研究发布
证据摘录
- “Guided by these observations, we propose $C^3$(Cluster-Compete-Compete), which organizes audio KVs in a hierarchical key-space index, lets query heads sharing a KV head compete for a common retrieval budget, and adaptively reallocates retrieval resolution through paired split-merge updates.”
来源:arXiv · cs.AI · arxiv.org