高斯过程预测分布的相似性度量
机器学习
2021-01-21 v1 机器学习
摘要
某些场景需要计算在先前观测条件下对目标函数上求值的新值的预测分布。我们有兴趣使用对目标函数做出有效假设的模型，而我们正试图预测其值。其中一些假设可能是光滑性或平稳性。高斯过程（GPs）是概率模型，可解释为函数上的灵活分布。它们通过协方差函数编码假设，通过拟合旧观测值以预测分布对新数据做出假设。我们可能面临多个GP用于建模不同目标函数的情况。GP是非参数模型，其复杂度关于观测数量呈三次增长。一个表示某个GP预测分布与另一个相似程度的度量，将可用于在它们建模同一输入空间的函数时停止使用其中一个GP。我们实质上在推断两个目标函数相关，因此一个GP足以通过对另一函数在逆相关情况下的预测进行变换来建模两者。我们在一系列合成与基准实验中展示了经验证据：GP预测分布可进行比较，且其中一个足以预测同一输入空间中两个相关函数。该相似性度量用于丢弃贝叶斯多目标优化中的目标时可能极为有用。
引用
@article{arxiv.2101.08061,
title = {A Similarity Measure of Gaussian Process Predictive Distributions},
author = {Lucia Asencio-Martín and Eduardo C. Garrido-Merchán},
journal= {arXiv preprint arXiv:2101.08061},
year = {2021}
}