用于非平稳相依多类分类的高效变换高斯过程
机器学习
2022-06-01 v1 机器学习
摘要
本工作提出高效变换高斯过程（ETGP），一种构建 C 个随机过程的新方法，其特征是：1）这 C 个过程是非平稳的；2）这些过程在构造上即相依，无需混合矩阵；3）训练与预测非常高效，因为高斯过程（GP）操作（例如反演诱导点协方差矩阵）的次数不依赖于过程数量。这使得 ETGP 特别适用于具有极多类别的多类问题，即本工作所研究的问题。ETGP 利用了近期提出的变换高斯过程（TGP）——一种通过使用可逆变换对高斯过程进行变换来定义的随机过程。然而，与 TGP 不同，ETGP 是通过使用 C 个可逆变换对来自一个 GP 的单个样本进行变换而构造的。我们推导了该模型的稀疏变分推断高效算法，并在 5 个分类任务中展示了其实用性，这些任务包含低/中/大规模数据集以及不同数量的类别，范围从仅几个到数百个。我们的结果表明，ETGP 总体上优于基于 GP 的 SOTA 多类分类方法，且计算成本更低（约小一个数量级）。
引用
@article{arxiv.2205.15008,
title = {Efficient Transformed Gaussian Processes for Non-Stationary Dependent Multi-class Classification},
author = {Juan Maroñas and Daniel Hernández-Lobato},
journal= {arXiv preprint arXiv:2205.15008},
year = {2022}
}
备注
Preprint