arXiv · cs.AI · Annan Zhang, Shengjie Song, Wenshuai Yao, Lihao Zhang, Tianmiao · 9 小时前模型评分35
状态感知的激活重计算:重放契约与选择性保留
State-Aware Activation Recomputation with Replay Contracts and Selective Preservation
导读
研究提出状态感知的激活重计算方案,用带版本的重放契约明确重放需恢复的状态,并由联合规划器按段在激活保留、整缓冲区快照和选择性区域保留之间选择。在 H100 稀疏写入负载、44 GiB 预算下,联合规划相比正确计费的 eager/whole 规划器将配对步时间降低 18.16%;32 GiB 下比固定区域快 4.98%。
分类置信度
中 · 待人工复核
- 只有单一媒体来源,需要人工复核。
来源级别:媒体与个人
事件类型:研究发布
证据摘录
- “A versioned replay contract specifies what replay must restore, and a joint planner chooses, per segment, between activation retention, whole-buffer snapshots and selective-region preservation, charging each option its measured memory and recovery cost.”
来源:arXiv · cs.AI · arxiv.org