Placeto：面向分布式机器学习的可泛化设备放置算法学习
机器学习
2019-06-24 v1 分布式、并行与集群计算
机器学习
摘要
我们提出 Placeto，一种强化学习（RL）方法，用于高效地为分布式神经网络训练寻找设备放置方案。与先前仅针对特定计算图寻找设备放置的方法不同，Placeto 能够学习可泛化的设备放置策略，可应用于任意计算图。我们在方法中提出两个关键思路：（1）我们将策略表示为执行迭代式的放置改进，而非一次性输出放置方案；（2）我们使用图嵌入来捕获计算图结构的相关信息，而不依赖节点标签进行索引。这些思路使 Placeto 能够高效训练并泛化到未见过的图。我们的实验表明，Placeto 所需的训练步数最多减少 6.1 倍，即可找到与先前方法所发现的最佳放置相当或更优的放置。此外，Placeto 能够为任意给定图族学习可泛化的放置策略，随后无需任何重新训练即可用于预测同一图族中未见图的优化放置。这消除了先前 RL 方法带来的巨大开销，因其缺乏泛化能力，每次放置新图都必须从头重新训练。
引用
@article{arxiv.1906.08879,
title = {Placeto: Learning Generalizable Device Placement Algorithms for Distributed Machine Learning},
author = {Ravichandra Addanki and Shaileshh Bojja Venkatakrishnan and Shreyan Gupta and Hongzi Mao and Mohammad Alizadeh},
journal= {arXiv preprint arXiv:1906.08879},
year = {2019}
}