基于强化学习的设备放置优化
机器学习
2017-11-15 v2 人工智能
摘要
过去几年中，神经网络的训练与推理在规模和计算需求上均经历了显著增长。目前，解决这些需求的常见方法是使用由 CPU 和 GPU 等硬件设备混合组成的异构分布式环境。重要的是，将神经模型各部分放置在设备上的决策通常由人类专家基于简单的启发式规则和直觉做出。在本文中，我们提出了一种学习优化 TensorFlow 计算图设备放置的方法。该方法的关键在于使用序列到序列模型来预测 TensorFlow 图中的哪些操作子集应在哪些可用设备上运行。随后，预测放置的执行时间被用作奖励信号，以优化序列到序列模型的参数。我们的主要结果是，在用于 ImageNet 分类的 Inception-V3 以及用于语言建模和神经机器翻译的 RNN LSTM 上，我们的模型找到了优于人工启发式和传统算法方法的非平凡设备放置方案。
引用
@article{arxiv.1706.04972,
title = {Device Placement Optimization with Reinforcement Learning},
author = {Azalia Mirhoseini and Hieu Pham and Quoc V. Le and Benoit Steiner and Rasmus Larsen and Yuefeng Zhou and Naveen Kumar and Mohammad Norouzi and Samy Bengio and Jeff Dean},
journal= {arXiv preprint arXiv:1706.04972},
year = {2017}
}
备注
To appear at ICML 2017