元学习 PAC-Bayes 界的一般框架
机器学习
2022-06-14 v1 机器学习
摘要
元学习通过观测来自有限个相关任务的数据，自动推断包含基学习算法超参数的归纳偏置。本文研究元泛化差的 PAC-Bayes 界。元泛化差包含两类泛化差来源：分别由观测有限个任务及每任务有限数据样本所导致的环境级与任务级泛化差。本文通过对联系环境与每任务级期望损失与经验损失的任意凸函数进行上界估计，得到新的 PAC-Bayes 界。利用这些界，我们开发了新的 PAC-Bayes 元学习算法。数值例子展示了所提新界与算法相较于先前元学习 PAC-Bayes 界的优势。
关键词
引用
@article{arxiv.2206.05454,
title = {A General framework for PAC-Bayes Bounds for Meta-Learning},
author = {Arezou Rezazadeh},
journal= {arXiv preprint arXiv:2206.05454},
year = {2022}
}