XC-NAS:一种用于多路径卷积神经网络神经架构搜索的新型细胞编码方法
神经与进化计算
2023-12-14 v1
摘要
随着创新技术和复杂多路径架构拓扑的引入,卷积神经网络(CNNs)在分类任务中持续取得巨大成功。神经架构搜索(NAS)旨在自动化设计这些复杂架构,减少对人类专家进行昂贵人工设计工作的需求。细胞编码(CE)是一种进化计算技术,擅长构建具有不同复杂度的新型多路径拓扑,最近已被应用于 NAS,为各种分类任务进化 CNN 架构。然而,现有的 CE 方法存在严重局限性。它们仅限于单一领域,仅部分实现了 CE 的主题,或仅关注微架构搜索空间。本文介绍了一种新的 CE 表示和算法,能够为图像和文本分类任务进化出具有不同深度、宽度和复杂度的新型多路径 CNN 架构。该算法明确关注宏架构搜索空间。此外,通过使用代理模型方法,我们表明该算法可以在不到一个 GPU 日内进化出一个高性能的 CNN 架构,从而允许进行足够数量的实验运行以达到科学稳健性。实验结果表明,该方法具有很强的竞争力,击败了多种最先进的方法,并且可推广到图像和文本领域。
引用
@article{arxiv.2312.07760,
title = {XC-NAS: A New Cellular Encoding Approach for Neural Architecture Search of Multi-path Convolutional Neural Networks},
author = {Trevor Londt and Xiaoying Gao and Peter Andreae and Yi Mei},
journal= {arXiv preprint arXiv:2312.07760},
year = {2023}
}
备注
Australasian Joint Conference on Artificial Intelligence 2023