基于 Q-Learning 的深度神经网络结构学习
机器学习
2018-11-01 v1 机器学习
摘要
近年来，随着卷积神经网络在许多具有挑战性的机器学习领域取得显著成就，手工设计的神经网络已不再满足我们的需求，因为设计一个网络将耗费大量精力，而自动生成架构已吸引越来越多的关注和聚焦。一些关于自动生成网络的研究已取得有前景的结果。然而，它们主要致力于逐一挑选一系列单层，如卷积层或池化层。在精心手工设计的神经网络中存在许多优雅且创造性的设计，例如 GoogLeNet 中的 Inception 块、残差网络中的残差块以及密集卷积网络中的密集块。基于强化学习并利用这些网络的优越性，我们提出了一种新颖的自动过程来设计多块神经网络，其架构包含上述多种类型的块，旨在进行深度神经网络的结构学习，并探索不同块能否组合在一起形成表现良好的神经网络的可能性。最优网络由经过训练的 Q-learning 智能体顺序挑选不同类型块而创建。为验证我们所提方法的有效性，我们使用自动生成的多块神经网络在图像基准数据集 MNIST、SVHN 和 CIFAR-10 的图像分类任务上，在受限的计算资源下进行实验。结果表明我们的方法非常有效，取得了与手工设计网络及先进自动生成神经网络相当或更好的性能。
引用
@article{arxiv.1810.13155,
title = {Structure Learning of Deep Neural Networks with Q-Learning},
author = {Guoqiang Zhong and Wencong Jiao and Wei Gao},
journal= {arXiv preprint arXiv:1810.13155},
year = {2018}
}