跳到正文
arXiv · cs.AI · Michel Fabrice Serret, Laura Grigori · 10 小时前模型评分42

基于核插值方法的注意力机制上下文压缩

Kernel-based Interpolatory Methods for Context Compression of Attention Mechanisms

导读

研究者提出 GAIM 和 Q-DAIM 两种键值缓存(KV-cache)压缩方法,分别基于广义经验插值法(GEIM,Generalized Empirical Interpolation Method)和 Q-离散经验插值法(Q-DEIM。

生成六维分析
分类置信度

中 · 待人工复核

  • 只有单一媒体来源,需要人工复核。

来源级别:媒体与个人

事件类型:研究发布

证据摘录

  • “We thus introduce two novel KV-cache compression methods which we call GAIM and Q-DAIM, based on the Generalized Empirical Interpolation Method (GEIM) and the Q-Discrete Empirical Interpolation Method (Q-DEIM), respectively.”

来源:arXiv · cs.AI · arxiv.org