云上深度学习作业弹性训练的最优资源分配器
系统与控制
2021-09-09 v1 分布式、并行与集群计算
系统与控制
摘要
云训练平台，如 Amazon Web Services 和华为云，为用户提供计算资源以训练其深度学习作业。弹性训练是嵌入云训练平台中的一项服务，可动态扩展或收缩分配给作业的资源。弹性训练系统的核心技术，是在异构作业之间以更短排队延迟和更高训练效率来最优分配有限资源。本文提出一种用于弹性训练系统的最优资源分配器，利用混合整数规划（MIP）模型来最大化深度学习作业的训练进度。我们利用从华为云深度学习训练平台 ModelArts 获取的真实作业数据，开展仿真实验，将最优资源分配器与作为基准的贪心分配器进行比较。数值结果表明，相较于贪心资源分配器，所提分配器可将排队时间减少至多 32%，并将训练效率提升至多 24%，从而大幅改善华为 ModelArts 的用户体验，并潜在地使产品实现更高利润。此外，最优资源分配器决策迅速，平均仅耗时 0.4 秒。
引用
@article{arxiv.2109.03389,
title = {An Optimal Resource Allocator of Elastic Training for Deep Learning Jobs on Cloud},
author = {Liang Hu and Jiangcheng Zhu and Zirui Zhou and Ruiqing Cheng and Xiaolong Bai and Yong Zhang},
journal= {arXiv preprint arXiv:2109.03389},
year = {2021}
}