arXiv · cs.AI · Michel Fabrice Serret, Laura Grigori · 10 小时前模型评分42
基于核插值方法的注意力机制上下文压缩
Kernel-based Interpolatory Methods for Context Compression of Attention Mechanisms
导读
研究者提出 GAIM 和 Q-DAIM 两种键值缓存(KV-cache)压缩方法,分别基于广义经验插值法(GEIM,Generalized Empirical Interpolation Method)和 Q-离散经验插值法(Q-DEIM。
分类置信度
中 · 待人工复核
- 只有单一媒体来源,需要人工复核。
来源级别:媒体与个人
事件类型:研究发布
证据摘录
- “We thus introduce two novel KV-cache compression methods which we call GAIM and Q-DAIM, based on the Generalized Empirical Interpolation Method (GEIM) and the Q-Discrete Empirical Interpolation Method (Q-DEIM), respectively.”
来源:arXiv · cs.AI · arxiv.org