利用共轭梯度得到高斯过程回归对数边际似然的更紧下界
机器学习
2021-02-17 v1 机器学习
摘要
我们提出了高斯过程回归模型对数边际似然的一个下界，该下界可在不对完整核矩阵进行矩阵分解的情况下计算。我们表明，通过最大化我们的下界来近似最大似然学习模型参数，保留了稀疏变分方法的诸多优势，同时减少了参数学习中引入的偏差。我们下界的基础是对数边际似然中出现的对数行列式项更为细致的分析，以及使用共轭梯度方法推导涉及二次型项的紧下界。我们的方法在统一依赖下界最大化（例如变分方法）的方法与基于共轭梯度的迭代训练高斯过程方法方面向前迈进了一步。在实验中，与其他基于共轭梯度的方法相比，我们在相当的训练时间内展示了我们模型改进的预测性能。
引用
@article{arxiv.2102.08314,
title = {Tighter Bounds on the Log Marginal Likelihood of Gaussian Process Regression Using Conjugate Gradients},
author = {Artem Artemev and David R. Burt and Mark van der Wilk},
journal= {arXiv preprint arXiv:2102.08314},
year = {2021}
}
备注
Preprint