arXiv · cs.AI · Xuning He, Kai Fan, Runyu Zhang, Binghuan Wang, Yuxiang Zhang, Xue Jiang, Yihong Dong · 11 小时前模型评分42
无需训练的 Agentic Soft-Token Compression：为长程 大语言模型（LLM，Large Language Model） 智能体压缩上下文
In-Model Context Compression with Agentic Soft Tokens for Long-Horizon LLM Agents
导读
研究者提出无需训练的 Agentic Soft-Token Compression（ASTC），利用模型原生的混合 Gated Delta Network（GDN）-attention 循环动态判断已吸收的信息，将其作为智能体软 token 前传，同时以硬 token 保留精确值。
分类置信度
中 · 待人工复核
- 只有单一媒体来源，需要人工复核。
来源级别：媒体与个人
事件类型：研究发布
证据摘录
- “In this paper, we introduce Agentic Soft-Token Compression (ASTC), a training-free compression method using soft tokens within LLM agent for long-horizon tasks.”
来源：arXiv · cs.AI · arxiv.org