NSGANetV2:基于进化多目标代理辅助的神经架构搜索
计算机视觉与模式识别
2020-07-22 v1 机器学习
神经与进化计算
摘要
在本文中,我们提出了一种高效的神经架构搜索(NAS)算法,用于生成在多个相互竞争的目标下具有竞争力的任务特定模型。它包含两种代理:一种位于架构层面以提高采样效率,另一种通过超网(supernet)位于权重层面以提高梯度下降训练效率。在标准基准数据集(C10、C100、ImageNet)上,所得模型(称为 NSGANetV2)在搜索采样效率高出数个数量级的情况下,与现有方法的模型相当或优于它们。此外,我们在六个不同的非标准数据集(如 STL-10、Flowers102、Oxford Pets、FGVC Aircrafts 等)上展示了所提方法的有效性和通用性。在所有情况下,NSGANetV2 均改进了最先进水平(SOTA)(在移动端设定下),这表明在处理小规模或细粒度数据集等多样场景时,NAS 可成为传统迁移学习方法的可行替代方案。代码见 https://github.com/mikelzc1990/nsganetv2
引用
@article{arxiv.2007.10396,
title = {NSGANetV2: Evolutionary Multi-Objective Surrogate-Assisted Neural Architecture Search},
author = {Zhichao Lu and Kalyanmoy Deb and Erik Goodman and Wolfgang Banzhaf and Vishnu Naresh Boddeti},
journal= {arXiv preprint arXiv:2007.10396},
year = {2020}
}
备注
Accepted for oral presentation at ECCV 2020