中文

IRLAS:用于架构搜索的逆强化学习

计算机视觉与模式识别 2019-11-07 v5 人工智能

摘要

本文提出一种用于架构搜索的逆强化学习方法(IRLAS),其训练智能体学习搜索受人类设计网络拓扑启发的网络结构。多数现有架构搜索方法完全忽略架构的拓扑特征,导致架构复杂且推理延迟高。受人类设计网络拓扑优雅且推理速度快这一事实的启发,我们提出一种受生物认知理论启发的镜像刺激函数,以提取专家人类设计网络(ResNeXt)的抽象拓扑知识。为避免在搜索空间上施加过强先验,我们引入逆强化学习来训练镜像刺激函数,并将其用作架构搜索的启发式引导,可轻松推广至不同架构搜索算法。在CIFAR-10上,我们IRLAS搜索出的最佳架构达到2.60%错误率。对于ImageNet移动端设定,我们的模型取得最先进的75.28% top-1准确率,同时比多数自动生成架构快2~4倍。该模型的快速版本比MobileNetV2快10%,且保持更高准确率。

关键词

引用

@article{arxiv.1812.05285,
  title  = {IRLAS: Inverse Reinforcement Learning for Architecture Search},
  author = {Minghao Guo and Zhao Zhong and Wei Wu and Dahua Lin and Junjie Yan},
  journal= {arXiv preprint arXiv:1812.05285},
  year   = {2019}
}