用于探索性学习的变分自适应牛顿方法
机器学习
2017-11-16 v1 机器学习
摘要
我们提出变分自适应牛顿(VAN)方法,这是一种黑盒优化方法,特别适用于主动学习和强化学习等探索性学习任务。与贝叶斯方法类似,VAN 估计可用于探索的分布,但所需计算类似于连续优化方法。我们的理论贡献表明,VAN 是一种二阶方法,统一了连续优化、变分推断和进化策略等不同领域的现有方法。我们的实验结果显示 VAN 在多种学习任务上表现良好。本工作提出了一种通用探索性学习方法,有望改进主动学习和强化学习等领域的学习。
引用
@article{arxiv.1711.05560,
title = {Variational Adaptive-Newton Method for Explorative Learning},
author = {Mohammad Emtiyaz Khan and Wu Lin and Voot Tangkaratt and Zuozhu Liu and Didrik Nielsen},
journal= {arXiv preprint arXiv:1711.05560},
year = {2017}
}