贝叶斯框架下用于黑盒模型优化的神经过程

在物理模型中存在大量优化问题，其中模型参数与输出之间的关系未知或难以追踪。这些模型通常被称为黑盒模型，因为只能从输入和输出的角度看待它们，而无法了解其内部运作机制。随着黑盒模型日益复杂，优化其参数已变得愈发昂贵和耗时。因此，开发高效且有效的黑盒模型优化算法已成为一项重要任务。解决此类问题的一个强大算法是贝叶斯优化，它能有效估计出带来最佳性能的模型参数，而高斯过程（GP）一直是贝叶斯优化中应用最广泛的代理模型之一。然而，GP的时间复杂度相对于观测到的模型输出数量呈三次方增长，且GP在参数维度较大时也难以良好扩展。因此，对于需要查询大量观测和/或具有大量参数的黑盒模型，GP的优化一直具有挑战性。为克服GP的缺陷，本研究提出一种通用的贝叶斯优化算法，采用神经过程（NP）作为代理模型来执行黑盒模型优化，即用于贝叶斯优化的神经过程（NPBO）。为验证NPBO的优势，我们在一个电力系统参数优化问题和一系列七个基准贝叶斯优化问题上将NPBO与四种基准方法进行比较。结果表明，所提出的NPBO在电力系统参数优化问题上优于其他四种基准方法，在七个基准问题上也具有竞争力。