面向高维大数据的Bézier高斯过程
机器学习
2022-10-17 v2 机器学习
摘要
现代高斯过程近似适用于“高样本数据”,其代价在观测数量上具有良好的扩展性,但在“高维数据”上表现不佳,在输入特征数量上扩展性差。即,随着输入特征数量增长,良好的预测性能要求汇总变量的数量及其相关代价迅速增长。我们引入了一种核,使汇总变量数量可随输入特征数量呈指数增长,但在观测数量和输入特征数量上均仅需线性代价。该扩展性通过我们引入的Bézier扶壁实现,其无需计算矩阵逆或行列式即可进行近似推断。我们表明该核与高斯过程回归中某些最常用核高度相似,并实证展示了该核对高样本与高维数据集的扩展能力。
引用
@article{arxiv.2209.00343,
title = {B\'ezier Gaussian Processes for Tall and Wide Data},
author = {Martin Jørgensen and Michael A. Osborne},
journal= {arXiv preprint arXiv:2209.00343},
year = {2022}
}