BFTrainer：在不可填满的超级计算机节点上低成本训练神经网络
分布式、并行与集群计算
2021-06-24 v1 机器学习
摘要
超级计算机基于先来先服务（FCFS）的调度策略导致大量瞬时空闲节点，这一现象仅被回填调度方法部分缓解——该方法将小作业提升到大作业之前运行。本文描述如何将这些原本被浪费的资源用于一种新用途，即深度神经网络（DNN）训练。这一重要工作负载易于组织为许多小片段，可动态配置以适配超级计算机调度中几乎任意的节点*时间空洞。我们描述如何将重新调整合适 DNN 训练任务以适配动态变化空洞的问题表述为一个基于确定性混合整数线性规划（MILP）的资源分配算法，并展示该 MILP 问题可在运行时高效求解。我们进一步展示如何调整该 MILP 问题以优化管理员或用户定义的指标。我们利用超级计算机调度器日志与不同 DNN 训练场景验证方法，并展示相比在专用节点上运行相同训练任务效率高达 93%。因此，我们的方法能够在对其他应用无影响的前提下，将大量超级计算机资源分配给 DNN 训练。
引用
@article{arxiv.2106.12091,
title = {BFTrainer: Low-Cost Training of Neural Networks on Unfillable Supercomputer Nodes},
author = {Zhengchun Liu and Rajkumar Kettimuthu and Michael E. Papka and Ian Foster},
journal= {arXiv preprint arXiv:2106.12091},
year = {2021}
}