中文

Auto-Meta:基于梯度的自动化元学习器搜索

机器学习 2018-12-12 v2 人工智能 计算机视觉与模式识别 机器学习

摘要

完全自动化机器学习流水线是当前人工智能研究的关键挑战之一,因为实用的机器学习通常需要耗费人力且耗时的过程,如模型设计、算法开发和超参数调优。在本文中,我们验证了自动化架构搜索与基于梯度的元学习效应具有协同作用。我们采用渐进式神经架构搜索(progressive neural architecture search)来为元学习器寻找最优架构。架构被自动发现的基于梯度的元学习器在 5-shot 5-way Mini-ImageNet 分类问题上取得了最先进的结果,准确率为 74.65%74.65\%,相比首个称为 MAML 的基于梯度的元学习器所获得的结果提升了 11.54%11.54\%。据我们所知,本工作是元学习背景下首次成功的神经架构搜索实现。

关键词

引用

@article{arxiv.1806.06927,
  title  = {Auto-Meta: Automated Gradient Based Meta Learner Search},
  author = {Jaehong Kim and Sangyeul Lee and Sungwan Kim and Moonsu Cha and Jung Kwon Lee and Youngduck Choi and Yongseok Choi and Dong-Yeon Cho and Jiwon Kim},
  journal= {arXiv preprint arXiv:1806.06927},
  year   = {2018}
}

备注

Presented at NIPS 2018 Workshop on Meta-Learning (MetaLearn 2018)