GeNAS：具有更好泛化能力的神经架构搜索
计算机视觉与模式识别
2023-05-19 v2
摘要
神经架构搜索（NAS）旨在自动挖掘具有优越测试性能的最优网络架构。近期的神经架构搜索（NAS）方法依赖验证损失或准确率来为目标数据寻找优越的网络。本文研究了一种新的神经架构搜索度量，用于挖掘具有更好泛化能力的架构。我们证明了损失曲面的平坦度可以作为预测神经网络架构泛化能力的有效代理指标。我们在多种搜索空间上评估了所提方法，显示出与最先进的NAS方法相当甚至更优的性能。值得注意的是，由平坦度度量得到的架构对各种数据分布偏移（如ImageNet-V2、-A、-O）以及目标检测和语义分割等多种任务具有鲁棒的泛化能力。代码见 https://github.com/clovaai/GeNAS。
引用
@article{arxiv.2305.08611,
title = {GeNAS: Neural Architecture Search with Better Generalization},
author = {Joonhyun Jeong and Joonsang Yu and Geondo Park and Dongyoon Han and YoungJoon Yoo},
journal= {arXiv preprint arXiv:2305.08611},
year = {2023}
}
备注
Accepted by IJCAI2023