GP-CNAS：基于遗传编程的卷积神经网络架构搜索
神经与进化计算
2018-12-20 v1 机器学习
摘要
卷积神经网络（CNNs）在解决视觉识别、语音识别和自然语言处理等难题方面十分有效。然而，性能提升的代价是在设计更深的CNN架构时进行费力的试错。本文提出一种用于卷积神经网络架构搜索的遗传编程（GP）框架，简称为GP-CNAS，以自动搜索最优CNN架构。GP-CNAS将CNN编码为树，其中叶节点（GP终止符）为选定的残差块，非叶节点（GP函数）指定块的组装过程。我们基于树的表示便于遗传算子的简易设计与灵活实现。具体而言，我们设计了一种动态交叉算子，在探索与利用之间取得平衡，在早期强调CNN复杂度，在后期强调CNN多样性。因此，可在有限试验次数内找到深度与宽度均衡的期望CNN架构。此外，我们的GP-CNAS框架也与其他手动设计和NAS生成的块类型高度兼容。在CIFAR-10数据集上的实验结果表明，GP-CNAS在现有最优的自动与半自动NAS算法中具有竞争力。
引用
@article{arxiv.1812.07611,
title = {GP-CNAS: Convolutional Neural Network Architecture Search with Genetic Programming},
author = {Yiheng Zhu and Yichen Yao and Zili Wu and Yujie Chen and Guozheng Li and Haoyuan Hu and Yinghui Xu},
journal= {arXiv preprint arXiv:1812.07611},
year = {2018}
}
备注
8 pages, 7 figures