一种用于演化深度卷积神经网络结构与短连接的混合GA-PSO方法
计算机视觉与模式识别
2019-03-12 v1 人工智能
机器学习
神经与进化计算
摘要
图像分类是一项困难的机器学习任务，二十多年来卷积神经网络（CNNs）一直被应用于解决该问题。近年来，不同于仅将当前层与其下一层相连的传统方式，短连接被提出用于将当前层与其后续层（除下一层外）相连，这已被证明能够促进深度CNN的训练过程。然而，构建短连接的方式多种多样，在解决特定问题时很难手动设计出最优的短连接，尤其是在网络架构的设计本身已极具挑战性的情况下。本文提出一种混合进化计算（EC）方法，以自动演化深度CNN的架构与短连接。本工作的三个主要贡献为：首先，提出一种新的编码策略来编码CNN，将架构与短连接分开编码；其次，开发了一种结合粒子群优化与遗传算法的混合两级EC方法来搜索最优CNN；最后，在适应度评估中引入了可调学习率，在给定固定轮数的情况下为训练过程提供更好的学习率。所提算法在三个广泛使用的图像分类基准数据集上进行了评估，并与12个基于非EC的竞争对手和一个基于EC的竞争对手进行了比较。实验结果表明，所提方法在分类准确率方面优于所有竞争对手。
引用
@article{arxiv.1903.03893,
title = {A Hybrid GA-PSO Method for Evolving Architecture and Short Connections of Deep Convolutional Neural Networks},
author = {Bin Wang and Yanan Sun and Bing Xue and Mengjie Zhang},
journal= {arXiv preprint arXiv:1903.03893},
year = {2019}
}