基于边际均值的方法用于高维昂贵黑盒模拟器的高效优化

随着科学计算的进步，计算机实验正越来越多地用于优化复杂系统。然而，对于现代应用（如核物理探测器的优化），每次实验运行可能需要数百个 CPU 小时，使得在高维空间上优化其黑盒模拟器是一个具有挑战性的任务。给定在输入 $\mathbf{x}_1, \cdots, \mathbf{x}_n$ 处的有限运行次数，来自这些评估输入中最佳的解决方案可能距离最优解较远，特别是当维度增加时。现有的黑盒方法大多采用此“选赢者”(pick-the-winner, PW) 解决方案，导致优化性能平庸。为此，我们提出一种新的基于边际均值的黑盒优化 (BOMM) 方法。其核心思想是一种估计全局优化器 $\mathbf{x}^*$ 的新方法，利用所谓的边际均值函数，这些函数可在高维情况下通过有限运行次数高效推断。与 PW 不同，此估计器可以为改进的优化性能选择评估输入之外的解决方案。假设目标函数遵循具有未知链接函数的广义可加模型，并在轻微条件下，我们证明了 BOMM 估计器不仅对优化是一致的，而且具有一种缓解现有方法在高维情况下面临的“维数诅咒”的优化速率，从而在维度增加时实现更佳性能。我们展示了一个使用转换可加高斯过程替代模型实现 BOMM 的实用框架。最后，我们在数值实验中展示了 BOMM 的有效性，并在核物理中的探测器优化中进行了应用。