基于高斯过程的序贯实验设计的超鞅方法
机器学习
2018-08-31 v3 概率论
统计理论
统计理论
摘要
高斯过程模型已成为昂贵实验（尤其是计算机实验）自适应设计的一个成熟框架。基于高斯过程的序贯设计在多种目标中被发现具有实际效率，例如全局优化（估计函数的全局最大值或极大值点）、可靠性分析（估计失效概率）或水平集与越限集的估计。本文研究了一类重要的序贯设计（即逐步不确定性缩减策略）的相合性。我们的方法依赖于一个关键观察：在 SUR 策略中，残差不确定性测度序列相对于由观测生成的滤子通常是一个超鞅。这一观察使我们能够为一大类 SUR 策略建立一般的相合性结果。随后，利用这一一般结果得到了几种流行的序贯设计策略的相合性。值得注意的是，我们确立了由 Bect、Ginsbourger、Li、Picheny 和 Vazquez (Stat. Comp., 2012) 提出的两种 SUR 策略的相合性——据我们所知，这是首批针对致力于估计越限集及其测度的基于高斯过程的序贯设计算法的相合性证明。我们还为全局优化的 Expected Improvement 算法建立了一个新的、更一般的相合性证明，与文献中的先前结果不同，它适用于任何具有连续样本路径的高斯过程。
引用
@article{arxiv.1608.01118,
title = {A supermartingale approach to Gaussian process based sequential design of experiments},
author = {Julien Bect and François Bachoc and David Ginsbourger},
journal= {arXiv preprint arXiv:1608.01118},
year = {2018}
}