中文

非平稳与深度高斯过程回归的收敛速率

统计理论 2025-03-19 v4 统计方法学 统计理论

摘要

本工作的重点是非平稳与深度高斯过程回归的收敛性。更确切地说,我们采用贝叶斯方法进行回归或插值,其中放置在未知函数 ff 上的先验是非平稳或深度高斯过程,并且我们推导了后验均值向真实函数 ff 的收敛速率,以观测训练点的数量表示。在某些情况下,我们还证明了后验方差向零的收敛。对函数 ff 施加的唯一假设是它是某个再生核 Hilbert 空间的元素,我们在特定情形下证明该空间与 Sobolev 空间范数等价。我们的分析包含了所采用协方差核中估计超参数的情形,既包括经验贝叶斯设定,也包括通过深度高斯过程构建的特定分层设定。我们考虑了在确定性或随机训练点上无噪声或有噪声观测的设定。我们建立了足以保证深度高斯过程回归收敛的一般假设,并给出了证明满足这些假设的具体示例。具体而言,我们的示例要求倒数第二层的 H"older 或 Sobolev 范数几乎必然有界。

关键词

引用

@article{arxiv.2312.07320,
  title  = {Convergence rates of non-stationary and deep Gaussian process regression},
  author = {Conor Osborne and Aretha L. Teckentrup},
  journal= {arXiv preprint arXiv:2312.07320},
  year   = {2025}
}

备注

59 pages, 12 figures