用于可扩展高斯过程回归的三角求积傅里叶特征
机器学习
2023-10-24 v1 机器学习
摘要
傅里叶特征近似已成功应用于可扩展高斯过程（GP）回归的文献中。特别是，由高斯求积规则导出的求积傅里叶特征（QFF）因相较于随机傅里叶特征（RFF）方法具有更高的近似精度和更好的校准不确定性估计，近年来广受欢迎。然而，QFF 的一个关键局限在于其性能可能受到与高度振荡求积相关的公认缺陷的影响，导致在特征有限时近似效果平庸。我们通过一种新的三角求积傅里叶特征（TQFF）方法解决这一关键问题，该方法使用一种专为所需傅里叶变换定制的新型非高斯求积规则。我们推导了 TQFF 的精确求积规则，以及所得特征映射的核近似误差界。随后，我们在一系列数值实验与应用中展示了我们的方法相对于 RFF 和高斯 QFF 的性能提升，并表明 TQFF 在更广泛的长度尺度范围内使用更少的特征即可获得准确的 GP 近似。
引用
@article{arxiv.2310.14544,
title = {Trigonometric Quadrature Fourier Features for Scalable Gaussian Process Regression},
author = {Kevin Li and Max Balakirsky and Simon Mak},
journal= {arXiv preprint arXiv:2310.14544},
year = {2023}
}