TS-ENAS：基于单元的网络架构搜索的两阶段演化方法
计算机视觉与模式识别
2023-10-17 v1
摘要
神经网络架构搜索为网络结构的自动设计提供了解决方案。然而，直接搜索整个网络架构较为困难。尽管使用堆叠单元搜索神经网络架构是降低搜索复杂度的有效途径，这些方法因层数、单元数与连接方式为固定而无法找到全局最优神经网络结构。本文中，我们提出一种基于单元的网络架构搜索的两阶段演化方法(TS-ENAS)，包括基于堆叠单元的一阶段搜索与二阶段调整这些单元。在我们的算法中，设计了一种新的基于单元的搜索空间与有效的两阶段编码方法以表示单元与神经网络结构。此外，设计了一种基于单元的权重继承策略以初始化网络权重，显著减少了算法运行时间。所提方法在四个图像分类数据集 Fashion-MNIST、CIFAR10、CIFAR100 与 ImageNet 上进行了广泛测试与比较，并与包括手工设计网络与 NAS 网络在内的 22 种最优算法比较。实验结果表明，TS-ENAS 能更有效地找到具有可比性能的神经网络架构。
引用
@article{arxiv.2310.09525,
title = {TS-ENAS:Two-Stage Evolution for Cell-based Network Architecture Search},
author = {Juan Zou and Shenghong Wu and Yizhang Xia and Weiwei Jiang and Zeping Wu and Jinhua Zheng},
journal= {arXiv preprint arXiv:2310.09525},
year = {2023}
}