基于强化学习的神经优化器搜索
人工智能
2017-09-25 v2 机器学习
机器学习
摘要
我们提出了一种自动化发现优化方法的方法，重点关注深度学习架构。我们训练一个循环神经网络控制器，使其生成一种领域特定语言中的字符串，该字符串基于一组原始函数（如梯度、梯度的滑动平均等）描述数学更新方程。控制器通过强化学习进行训练，以最大化模型在若干训练周期后的性能。在 CIFAR-10 上，我们的方法发现了若干更新规则，这些规则在 ConvNet 模型上优于许多常用优化器，如 Adam、RMSProp 或带动量与不带动量的 SGD。我们引入了两种新优化器，命名为 PowerSign 和 AddSign，并证明它们具有良好的迁移性，能够改善多种不同任务和架构的训练，包括 ImageNet 分类和谷歌的神经机器翻译系统。
引用
@article{arxiv.1709.07417,
title = {Neural Optimizer Search with Reinforcement Learning},
author = {Irwan Bello and Barret Zoph and Vijay Vasudevan and Quoc V. Le},
journal= {arXiv preprint arXiv:1709.07417},
year = {2017}
}
备注
ICML 2017 Conference paper