中文

目标方差缩减:含噪声参数的黑盒模拟器的鲁棒贝叶斯优化

机器学习 2024-03-07 v1 机器学习

摘要

在黑盒模拟器上对控制参数 x\mathbf{x} 进行优化出现在众多科学应用中。在此类应用中,模拟器通常采取 f(x,θ)f(\mathbf{x},\boldsymbol{\theta}) 的形式,其中 θ\boldsymbol{\theta} 是在实践中不确定的参数。鲁棒优化旨在优化目标 E[f(x,Θ)]\mathbb{E}[f(\mathbf{x},\boldsymbol{\Theta})],其中 ΘP\boldsymbol{\Theta} \sim \mathcal{P} 是对 θ\boldsymbol{\theta} 不确定性建模的随机变量。为此,现有的黑盒方法通常采用两阶段方法来选择下一个点 (x,θ)(\mathbf{x},\boldsymbol{\theta}),其中 x\mathbf{x}θ\boldsymbol{\theta} 通过不同的采集函数分别进行优化。因此,这些方法并未对 (x,θ)(\mathbf{x},\boldsymbol{\theta}) 采用联合采集,从而可能无法充分利用控制到噪声的相互作用以实现有效的鲁棒优化。为解决这一问题,我们提出了一种名为目标方差缩减 (TVR) 的新贝叶斯优化方法。TVR 利用了一种针对 (x,θ)(\mathbf{x},\boldsymbol{\theta}) 的新型联合采集函数,该函数旨在减少期望改进区域内的目标方差。在 ff 的高斯过程代理下,TVR 采集函数可以闭式评估,并揭示了鲁棒黑盒优化中富有洞察力的探索 - 利用 - 精度权衡。通过对归一化流的仔细整合,TVR 还可以适应 P\mathcal{P} 上广泛的非高斯分布类。我们在一系列数值实验以及 operational uncertainty 下汽车制动盘鲁棒设计的应用中,展示了 TVR 优于最先进方法的性能。

关键词

引用

@article{arxiv.2403.03816,
  title  = {Targeted Variance Reduction: Robust Bayesian Optimization of Black-Box Simulators with Noise Parameters},
  author = {John Joshua Miller and Simon Mak},
  journal= {arXiv preprint arXiv:2403.03816},
  year   = {2024}
}