统一变分推断与PAC-Bayes以实现可扩展的监督学习
机器学习
2019-12-18 v2 机器学习
摘要
基于神经网络的控制器具有学习复杂、高维函数的巨大潜力。然而，它们容易过拟合并产生无根据的外推。PAC-Bayes 是一个广义框架，它更能抵抗过拟合，并且即使在无根据的外推上也能以任意高的概率给出性能界。然而，对于复杂任务，优化以学习这样的函数和界是难以处理的。在这项工作中，我们提出了一种方法，能够同时学习这样的函数并估计性能界，该性能界可自然扩展到高维、非线性环境，且不对环境做任何显式假设。我们的方法建立在当风险度量为负对数似然时，我们于称为 ELBO 和 PAC-Bayes 的公式之间所建立的平行关系之上。通过在多个高维 MuJoCo 运动任务上的实验，我们验证了理论的正确性，展示了其更好的泛化能力，并探究了对其学习至关重要的因素。所有实验的代码可在 https://bit.ly/2qv0JjA 获取。
引用
@article{arxiv.1910.10367,
title = {Unifying Variational Inference and PAC-Bayes for Supervised Learning that Scales},
author = {Sanjay Thakur and Herke Van Hoof and Gunshi Gupta and David Meger},
journal= {arXiv preprint arXiv:1910.10367},
year = {2019}
}
备注
13 pages, 8 figures, 8 tables