约束下高斯过程的序贯构造与维数约简
统计理论
2022-03-11 v2 统计理论
摘要
在建模代价高昂的黑箱函数时，考虑有界性、单调性或凸性等不等式约束是具有挑战性的。在这方面，有限维高斯过程（GP）回归模型提供了一种有价值的解决方案，因为它们保证不等式约束处处满足。然而，这些模型目前局限于小维数情形（至多维数 5）。为解决此问题，我们引入了 MaxMod 算法，该算法序贯地插入一维节点或添加活跃变量，从而同时实现维数约简与高效的节点分配。我们证明了该算法的收敛性。在证明的中间步骤中，我们提出了多仿射扩张的概念并研究了其性质。我们还证明了当节点在输入空间中不稠密时有限维 GP 的收敛性，推广了近期文献。通过模拟与真实数据，我们证明了 MaxMod 算法在更高维数下仍高效（至少在维数 20 时），并且达到给定逼近误差所需的节点数少于现有最优的其他约束 GP 模型。
引用
@article{arxiv.2009.04188,
title = {Sequential construction and dimension reduction of Gaussian processes under constraints},
author = {François Bachoc and Andrés F. López Lopera and Olivier Roustant},
journal= {arXiv preprint arXiv:2009.04188},
year = {2022}
}