面向双层优化问题的信息论贝叶斯优化
机器学习
2026-02-27 v2
摘要
双层优化问题由嵌套为上层和下层问题的两个优化问题组成，其中下层问题的最优性定义了上层问题的约束。本文考虑了上层和下层均涉及昂贵黑盒函数情况下的贝叶斯优化（BO）。由于其嵌套结构，双层优化具有复杂的问题定义，因此与多目标或约束问题等其他BO标准扩展相比，双层BO尚未得到广泛研究。我们提出了一种信息论方法，该方法同时考虑了上层和下层最优解及其函数值的信息增益。这使我们能够定义一个统一的准则，同时衡量对两层问题的收益。此外，我们还展示了一种基于实用下界的方法来评估信息增益。我们通过几个基准数据集实证证明了所提方法的有效性。
引用
@article{arxiv.2509.21725,
title = {Information-Theoretic Bayesian Optimization for Bilevel Optimization Problems},
author = {Takuya Kanayama and Yuki Ito and Tomoyuki Tamura and Masayuki Karasuyama},
journal= {arXiv preprint arXiv:2509.21725},
year = {2026}
}