神经网络的基于种群训练
机器学习
2017-11-29 v2 神经与进化计算
摘要
神经网络主导着现代机器学习领域，但其训练和成功仍受限于对超参数（如模型架构、损失函数和优化算法）经验选择的敏感性。本工作中我们提出基于种群训练（Population Based Training, PBT），一种简单的异步优化算法，可有效利用固定计算预算联合优化模型种群及其超参数以最大化性能。重要的是，PBT 发现的是超参数设置的调度，而非遵循通常次优的寻找单一固定集合用于整个训练过程的策略。仅需对典型分布式超参数训练框架做微小修改，我们的方法即可实现鲁棒且可靠的模型训练。我们在深度强化学习问题上展示了 PBT 的有效性，通过对一组超参数进行优化，显示出智能体更快的挂钟收敛和更高的终末性能。此外，我们表明同样方法可应用于机器翻译的监督学习，其中 PBT 用于直接最大化 BLEU 分数，也可用于生成对抗网络（Generative Adversarial Networks, GAN）的训练以最大化生成图像的 Inception 分数。在所有情况下，PBT 均自动发现超参数调度和模型选择，从而实现稳定训练与更好的终末性能。
引用
@article{arxiv.1711.09846,
title = {Population Based Training of Neural Networks},
author = {Max Jaderberg and Valentin Dalibard and Simon Osindero and Wojciech M. Czarnecki and Jeff Donahue and Ali Razavi and Oriol Vinyals and Tim Green and Iain Dunning and Karen Simonyan and Chrisantha Fernando and Koray Kavukcuoglu},
journal= {arXiv preprint arXiv:1711.09846},
year = {2017}
}