迈向改进的高斯过程学习：两全其美
机器学习
2022-11-14 v1 机器学习
摘要
高斯过程训练可分解为（近似）后验推断与超参数学习。对于非高斯（非共轭）似然，近似推断的两种常见选择是期望传播(Expectation Propagation, EP)和变分推断(Variational Inference, VI)，二者具有互补的优缺点。虽然VI对边缘似然的下界是推断近似后验的合适目标，但这并不自动意味着它是超参数优化的良好学习目标。我们设计了一种混合训练过程，其中推断利用共轭计算VI，而学习使用类EP的边缘似然近似。我们在二分类问题上经验性地证明，这提供了一个良好的学习目标并具有更好的泛化能力。
引用
@article{arxiv.2211.06260,
title = {Towards Improved Learning in Gaussian Processes: The Best of Two Worlds},
author = {Rui Li and ST John and Arno Solin},
journal= {arXiv preprint arXiv:2211.06260},
year = {2022}
}
备注
In the 2022 NeurIPS Workshop on Gaussian Processes, Spatiotemporal Modeling, and Decision-making Systems