跳到正文
arXiv · cs.AI · Peipei Jiao, Mingkang Liu, Weiming Meng, Lichen Pang, Tianyuan Liu, Junyan Li · 11 小时前模型评分37

PARC:面向端侧多模态智能体的并行对齐剪枝与轮次感知上下文复用

Parallelism-Aligned Pruning and Round-Aware Context Reuse for On-Device Multimodal Agents

导读

PARC 将并行对齐的结构化剪枝与按生命周期重组的 KV 缓存结合,让注意力维度能被边缘加速器核心数整除,并让历史图像退出持久缓存。在 2,062 个 GUI 操作上增量接口无精度回退,任务感知恢复训练找回 98.7% 的动作类型精度差距。七核部署下视觉编码器延迟降低 11.4%,解码吞吐提升 23.8%,单堆高水位内存降低 12.7%。

生成六维分析
分类置信度

中 · 待人工复核

  • 存在未解决的相邻类别:ai-tooling,需要人工复核。
  • 只有单一媒体来源,需要人工复核。

来源级别:媒体与个人

事件类型:研究发布

证据摘录

  • “We present PARC, which combines parallelism-aligned structured pruning with lifetime-aware KV-cache reorganization.”

来源:arXiv · cs.AI · arxiv.org