arXiv · cs.AI · Peter Belcak, Saurav Muralidharan, Jindong Jiang, Yonggan Fu, Wonmin Byeon, Hanrong Ye, Ryan Angilly, Ali Taghibakhshi, Shih-Yang Liu, Siru Ouyang, Greg Heinrich, Pavlo Molchanov · 2 小时前模型评分57
研究称频繁压缩上下文即可，长上下文模型并非必需
You don't need long context
导读
一项技术报告指出，在开源权重的前沿模型上，越靠后的 token 生成成本越高，差距最高可达 7 倍。
分类置信度
中 · 待人工复核
- 只有单一媒体来源，需要人工复核。
来源级别：媒体与个人
事件类型：研究发布
证据摘录
- “Through frequent compaction, we show across a broad range of long-horizon and long-input tasks that frontier language models sacrifice little to no task accuracy when maintaining short contexts.”
来源：arXiv · cs.AI · arxiv.org