arXiv · cs.AI · Hossein Askari, Wei Sun, Chenguang Zhu, Bin Zan, Sreen Tallam, Keyu Man · 2 小时前模型评分40
LEAP:生产训练集群中按吞吐量预测选择硬件的机器学习服务
Look Before You Launch: Learned Throughput Prediction for Hardware Selection in a Production Training Fleet
导读
LEAP 是一个机器学习性能预测服务,在训练任务提交时预测其在各候选硬件上的吞吐量,并按单位成本吞吐量排序,每天为数百种模型、20 多种硬件路由数万个训练任务。
分类置信度
中 · 待人工复核
- 只有单一媒体来源,需要人工复核。
来源级别:媒体与个人
事件类型:研究发布
证据摘录
- “We present LEAP, a machine learning performance prediction service that predicts each training job's throughput on every candidate hardware type at submission time and ranks the candidates by predicted throughput per unit cost.”
来源:arXiv · cs.AI · arxiv.org