概念扩展神经架构搜索（CENAS）
机器学习
2021-10-08 v1
摘要
架构搜索针对某任务优化神经网络结构，而非依赖人工设计。然而其速度慢，因为每个候选架构通常都从零开始训练。本文提出一种称为概念扩展神经架构搜索（CENAS）的方法，将样本高效、受计算创造性启发的迁移学习方法与神经架构搜索相结合。该方法通过迁移现有权重以近似新模型的参数，比朴素架构搜索更快地找到模型。它允许添加特征而非仅修改现有特征，从而优于标准迁移学习。我们证明，在多种迁移学习任务上，本方法在效率、性能与参数量方面均优于标准神经架构搜索与迁移学习方法。
引用
@article{arxiv.2110.03144,
title = {Conceptual Expansion Neural Architecture Search (CENAS)},
author = {Mohan Singamsetti and Anmol Mahajan and Matthew Guzdial},
journal= {arXiv preprint arXiv:2110.03144},
year = {2021}
}
备注
9 pages, 4 figures, ICCC 2021 Poster