高斯过程专家乘积的修复
机器学习
2021-02-16 v1 机器学习
摘要
高斯过程（GPs）是用于回归和分类问题的非参数贝叶斯模型。缓解其三次训练成本的方法之一是使用在数据子集上训练的局部 GP 专家。特别地，专家乘积模型通过易处理的乘积运算组合局部专家的预测分布。尽管这些专家模型允许大规模分布式计算，其预测通常存在均值行为异常或不确定性量化未校准的问题。通过经 tempered softmax 加权校准预测，我们为多种专家乘积模型（包括广义专家乘积和鲁棒贝叶斯委员会机）提供了这些问题的解决方案。此外，我们利用最优传输文献并提出一种新的专家乘积模型，通过计算局部专家的 Wasserstein 重心来组合其预测，可应用于回归和分类。
引用
@article{arxiv.2102.07106,
title = {Healing Products of Gaussian Processes},
author = {Samuel Cohen and Rendani Mbuvha and Tshilidzi Marwala and Marc Peter Deisenroth},
journal= {arXiv preprint arXiv:2102.07106},
year = {2021}
}
备注
ICML 2020