面向图像分类的深度卷积神经网络多目标进化设计
计算机视觉与模式识别
2020-09-16 v3 机器学习
神经与进化计算
摘要
卷积神经网络（CNNs）架构的早期进展主要由人类专业知识和精细的设计过程驱动。近来，人们提出了神经架构搜索，旨在自动化网络设计过程并生成依赖于任务的架构。尽管现有方法在图像分类中取得了有竞争力的性能，但它们并不适用于计算预算有限的问题，原因有二：（1）所获得的架构要么仅针对分类性能优化，要么仅针对单一部署场景优化；（2）在大多数方法中，搜索过程需要庞大的计算资源。为克服这些局限，我们提出了一种在多目标（如分类性能和浮点运算次数（FLOPs））下搜索神经架构的进化算法。所提方法通过遗传操作逐步重组和修改架构组件，得到一组架构以近似整个 Pareto 前沿，从而解决了第一个缺陷。我们的方法通过在搜索过程中谨慎地对架构进行降尺度，以及通过贝叶斯模型学习强化过往成功架构间普遍共享的模式，提升了计算效率。这两项主要贡献的集成使得能够高效设计出在基准图像分类数据集 CIFAR、ImageNet 和人类胸部 X 光片上具有竞争力且在多数情况下优于手动与自动设计架构的架构。同时获取面向不同计算需求的多种架构选择的灵活性，进一步使我们的方法与文献中其他方法区分开来。代码见 https://github.com/mikelzc1990/nsganetv1
引用
@article{arxiv.1912.01369,
title = {Multi-Objective Evolutionary Design of Deep Convolutional Neural Networks for Image Classification},
author = {Zhichao Lu and Ian Whalen and Yashesh Dhebar and Kalyanmoy Deb and Erik Goodman and Wolfgang Banzhaf and Vishnu Naresh Boddeti},
journal= {arXiv preprint arXiv:1912.01369},
year = {2020}
}
备注
Published in IEEE Transactions on Evolutionary Computation, 23 pages