一种包含两层高斯过程的可靠且简约的新型学习策略:应对非均匀经验相关结构
机器学习
2024-04-22 v1 机器学习
摘要
我们提出了一种新的学习一对变量间函数关系的策略,以应对可用数据相关结构中的非均匀性。该策略将所求函数建模为非平稳高斯过程(GP)的样本函数,而该非平稳 GP 内部嵌套多个其他 GP,我们证明其中每一个均可为平稳的,从而确立了两层 GP 的充分性。具体而言,我们设想一个非平稳核,其每个超参数被设定为依赖于从外层非平稳 GP 抽取的样本函数,使得在计算核的每一对输入值处均抽取新的样本函数。然而,此类模型无法实现,我们通过以下事实进行替代:从给定 GP 抽取不同样本函数的平均效应,等价于从一组在所采取推断的平衡阶段(通过 MCMC)被更新为彼此不同的 GP 中各抽取一个样本函数的效应。该核是完全非参数的,且对于输入变量的每个维度,每层 GP 只需学习一个超参数即可。我们在真实数据集上展示了这一新学习策略。
引用
@article{arxiv.2404.12478,
title = {A New Reliable & Parsimonious Learning Strategy Comprising Two Layers of Gaussian Processes, to Address Inhomogeneous Empirical Correlation Structures},
author = {Gargi Roy and Dalia Chakrabarty},
journal= {arXiv preprint arXiv:2404.12478},
year = {2024}
}