BasisKV低秩KV缓存压缩方法发布
热点事件持续更新
BasisKV低秩KV缓存压缩方法发布
1 篇报道1 个报道来源9 小时前更新
先了解这件事
AI 综述
Lixun Zhang等作者发布论文，提出 BasisKV，一种面向通信密集型长上下文大语言模型推理的低秩 KV-cache 压缩方法。据论文，该方法在 8 卡张量并行下实现最高 1.42 倍端到端加速。 论文说明代码已随文提供链接，未给出更多部署条件或适用范围。
AI 根据报道生成 · 4 小时前更新
最新进展11月3日 13:00
BasisKV：面向通信与键路由的值潜变量方法报道时间线
沿着报道，了解事件的不同侧面。
11月3日
- arXiv · cs.AIBasisKV：面向通信与键路由的值潜变量方法
BasisKV 提出一种面向长上下文大语言模型（LLM，Large Language Model）推理的低秩 KV-cache 压缩方法，在 8 卡张量并行下实现最高 1.42 倍端到端加速。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。