用于高维分段连续函数代理建模的深度跳跃高斯过程
机器学习
2026-01-16 v2 机器学习
摘要
我们引入了深度跳跃高斯过程（DJGP），一种用于高维域上分段连续函数代理建模的新方法。DJGP通过将区域特定的局部线性投影与JGP建模相结合，解决了传统跳跃高斯过程（JGP）在高维输入空间中的局限性。这些投影使用依赖于区域的矩阵来捕获局部低维子空间结构，使其非常适合JGP（一种局部高斯过程的变体）固有的局部化建模行为。为了控制模型复杂度，我们在投影矩阵上放置了一个高斯过程先验，允许它们在输入空间上平滑演化。然后使用JGP对投影输入进行建模，以捕获与响应的分段连续关系。这产生了一种独特的GP/JGP双层深度学习。我们进一步开发了一种可扩展的变分推理算法，以联合学习投影矩阵和JGP超参数。提供了严格的理论分析和广泛的实证研究来证明所提出方法的合理性。特别地，我们推导了DJGP的预言误差界，并将其分解为四个不同的误差来源，然后将其与实际意义联系起来。在合成和基准数据集上的实验表明，与现有方法相比，DJGP实现了更优越的预测精度和更可靠的不确定性量化。
引用
@article{arxiv.2510.21974,
title = {Deep Jump Gaussian Processes for Surrogate Modeling of High-Dimensional Piecewise Continuous Functions},
author = {Yang Xu and Chiwoo Park},
journal= {arXiv preprint arXiv:2510.21974},
year = {2026}
}