Alpha MAML：自适应模型无关元学习
机器学习
2020-01-22 v1 人工智能
机器学习
摘要
模型无关元学习（MAML）是一种元学习技术，用于在大量学习任务上训练模型，以使模型为新生任务的少样本学习做好准备。MAML算法在分类、回归以及强化学习中策略梯度的微调等少样本学习问题上表现良好，但存在需耗费大量代价进行超参数调优以保障训练稳定性的缺陷。我们通过引入一种称为Alpha MAML的MAML扩展来解决这一不足，其融入了在线超参数自适应方案，从而消除了调优元学习率与学习率的需要。我们在Omniglot数据库上的结果表明，对MAML训练超参数的调优需求大幅降低，且训练稳定性提升，对超参数选择的敏感性减弱。
引用
@article{arxiv.1905.07435,
title = {Alpha MAML: Adaptive Model-Agnostic Meta-Learning},
author = {Harkirat Singh Behl and Atılım Güneş Baydin and Philip H. S. Torr},
journal= {arXiv preprint arXiv:1905.07435},
year = {2020}
}
备注
6th ICML Workshop on Automated Machine Learning (2019)