在线元学习的动态遗憾分析
机器学习
2021-09-30 v1 机器学习
摘要
在线元学习框架已成为终身持续学习环境中的强大工具。智能体的目标是在面对接连不断的任务时，通过利用先前的经验来快速学习新任务。该框架包含两个层级：学习元学习器的外层和学习任务特定模型的内层，且内层仅使用来自当前任务的少量数据。现有方法为在线元学习框架提供了静态遗憾分析，而我们则从全局视角出发，建立了处理变化环境的动态遗憾性能指标。我们还基于涵盖 ADAM 和 ADAGRAD 的自适应梯度方法的广义版本，在外层学习元学习器。我们在随机环境中进行了分析，并在期望意义下证明了依赖于总迭代次数 T 和学习器参数的对数局部动态遗憾。此外，我们还指出了在适当选择参数时，所提出算法收敛速率的高概率界，这在以往的研究中尚未被讨论过。
引用
@article{arxiv.2109.14375,
title = {Dynamic Regret Analysis for Online Meta-Learning},
author = {Parvin Nazari and Esmaile Khorram},
journal= {arXiv preprint arXiv:2109.14375},
year = {2021}
}