CATCH：基于上下文的元强化学习用于可迁移架构搜索
机器学习
2020-07-23 v3 人工智能
摘要
神经架构搜索（NAS）近年来取得诸多突破。尽管进展显著，许多算法仍受限于特定搜索空间，且缺乏在面对多任务时复用知识的高效机制。这些挑战限制了其适用性，并促使我们提出 CATCH——一种新颖的基于上下文的元强化学习（RL）算法，用于可迁移架构搜索（CATCH 即 Context-bAsed meTa reinforcement learning for transferrable arChitecture searcH）。元学习与 RL 的结合使 CATCH 能高效适应新任务，且对搜索空间无关。CATCH 利用概率编码器将任务属性编码为潜在上下文变量，进而引导其控制器快速“捕捉”高性能网络。这些上下文还协助网络评估器筛选劣质候选并加速学习。大量实验证明了 CATCH 相对于许多其他广泛认可算法的通用性与搜索效率。它还能处理跨域架构搜索，在 ImageNet、COCO 和 Cityscapes 上识别出具有竞争力的网络。据我们所知，这是首项在保持跨多种设置鲁棒性的同时提出高效可迁移 NAS 方案的工作。
引用
@article{arxiv.2007.09380,
title = {CATCH: Context-based Meta Reinforcement Learning for Transferrable Architecture Search},
author = {Xin Chen and Yawen Duan and Zewei Chen and Hang Xu and Zihao Chen and Xiaodan Liang and Tong Zhang and Zhenguo Li},
journal= {arXiv preprint arXiv:2007.09380},
year = {2020}
}
备注
Published at ECCV2020