基于高效多目标进化框架的神经架构搜索
计算机视觉与模式识别
2020-11-10 v1 人工智能
摘要
深度学习方法在解决图像分类与分割、语音识别和机器翻译等许多复杂任务上已非常成功。然而，由于超参数搜索空间庞大、训练时间长以及缺乏超参数选取的技术指导，针对特定问题手动设计神经网络十分困难且耗时。此外，大多数网络高度复杂、任务特定且过参数化。近来，多目标神经架构搜索（NAS）方法被提出以自动设计准确且高效的架构。然而，它们仅优化架构的宏结构或微结构之一，要求未设定的超参数手动定义，且未利用优化过程中产生的信息来提升搜索效率。本工作中，我们提出 EMONAS，一种高效多目标神经架构搜索框架，用于在优化网络精度与规模的同时自动设计神经架构。EMONAS 由一个同时考虑架构宏结构与微结构的搜索空间，以及一种基于代理辅助多目标进化的算法组成，该算法利用随机森林代理和引导选择概率高效搜索最佳超参数。EMONAS 在 MICCAI ACDC 挑战赛的 3D 心脏分割任务上进行了评估，该任务对疾病诊断、风险评估和治疗决策至关重要。EMONAS 发现的架构在所有评估指标上均位列挑战赛前 10 名提交方案，性能优于或可与其它方法相媲美，同时将搜索时间减少 50% 以上，且参数量显著更少。
引用
@article{arxiv.2011.04463,
title = {Neural Architecture Search with an Efficient Multiobjective Evolutionary Framework},
author = {Maria Baldeon Calisto and Susana Lai-Yuen},
journal= {arXiv preprint arXiv:2011.04463},
year = {2020}
}
备注
11 pages, 3 figures