arXiv · cs.AI · Jiadong Zhang, Xiaosong Ma · 9 小时前模型评分36
Ripple:面向具身推理的截止时间感知 CPU-图形处理器(GPU,Graphics Processing Unit) 共享调度
Ripple: Deadline-Aware CPU-GPU Sharing for Embodied Inference
导读
Ripple 是一个 CPU-图形处理器(GPU,Graphics Processing Unit) 协同调度器,通过把推理拆成可暂停的层级单元、将每个 CPU 任务的截止时间余量换算成 GPU 字节预算,来限制 GPU 显存流量对感知与控制任务的干扰。
分类置信度
中 · 待人工复核
- 只有单一媒体来源,需要人工复核。
来源级别:媒体与个人
事件类型:研究发布
证据摘录
- “We present Ripple, a CPU-GPU co-scheduler that combines model-derived GPU memory volumes with CPU completion feedback to regulate interference.”
来源:arXiv · cs.AI · arxiv.org