中文

面向在线决策的稀疏变分高斯过程条件化

机器学习 2021-10-29 v1 机器学习

摘要

凭借原则性的不确定性表示与闭式后验更新,高斯过程 (GPs) 是在线决策的自然选择。然而,高斯过程通常对 nn 个训练点至少需要 O(n2)\mathcal{O}(n^2) 的计算量,限制了其普遍适用性。随机变分高斯过程 (SVGPs) 可为固定大小的数据集提供可扩展推断,但难以高效地对新数据进行条件化。我们提出在线变分条件化 (OVC),一种在在线设定下高效对 SVGPs 进行条件化的过程,其无需通过证据下界在新数据加入时重新训练。OVC 使得 SVGPs 能够与用于黑盒优化的先进前瞻采集函数配对,即便在非高斯似然下亦可。我们展示 OVC 在一系列应用中提供了引人注目的性能,包括疟疾发病率的主动学习,以及 MuJoCo 模拟机器人控制任务上的强化学习。

关键词

引用

@article{arxiv.2110.15172,
  title  = {Conditioning Sparse Variational Gaussian Processes for Online Decision-making},
  author = {Wesley J. Maddox and Samuel Stanton and Andrew Gordon Wilson},
  journal= {arXiv preprint arXiv:2110.15172},
  year   = {2021}
}

备注

NeurIPS 2021