生成式贝叶斯计算:作为高斯过程代理的可扩展替代方案
机器学习
2026-02-26 v1 应用统计
统计计算
统计方法学
机器学习
摘要
高斯过程 (GP) 代理是模拟昂贵计算机实验的默认工具,但其平方级计算成本、平稳性假设以及高斯预测分布限制了其应用范围。我们提出一种通过隐式分位数网络 (IQNs) 实现的生成式贝叶斯计算 (GBC) 作为替代方案,旨在针对这三项限制。GBC 从输入-输出对中学习完整的条件分位数函数;在测试时,仅需对每个分位数水平执行一次前向传播即可获得预测分布的抽样。我们在十四组基准测试中将 GBC 与四种 GP 方法进行比较。GBC 在分段跳跃过程基准测试中将 CRPS 改进 11-26\%,在十维 Friedman 函数上改进 14\%,并线性扩展至 90,000 个训练点,其中稠密协方差 GPs 难以实现。具有边界增强的变体在二维跳跃数据集上匹配或超过模块化跳跃 GPs(最高可实现 46\% 的 CRPS 改进)。在主动学习中,随机先验 IQN 集成在 Rocket LGBB 上的 RMSE 约为深度 GP 主动学习的三倍。总体而言,GBC 在 12 of 14 项比较中取得有利的点估计。GP 在其平滑曲面上保持优势,因为其平滑性先验提供有效的正则化。
引用
@article{arxiv.2602.21408,
title = {Generative Bayesian Computation as a Scalable Alternative to Gaussian Process Surrogates},
author = {Nick Polson and Vadim Sokolov},
journal= {arXiv preprint arXiv:2602.21408},
year = {2026}
}