基于扩散模型的高昂成本多目标贝叶斯优化
机器学习
2024-05-15 v1 人工智能
摘要
多目标贝叶斯优化 (MOBO) 在各种高昂成本的多目标优化问题 (EMOPs) 上展现出了良好的性能。然而,在函数评估次数有限的情况下,有效建模 Pareto 最优解的复杂分布十分困难。现有的 Pareto 集学习算法在此类高昂成本场景中可能表现出显著的不稳定性,导致所得解集与 Pareto 集 (PS) 之间存在较大偏差。在本文中,我们提出了一种新颖的基于复合扩散模型的 Pareto 集学习算法,即 CDM-PSL,用于高昂成本的 MOBO。CDM-PSL 包含无条件与条件扩散模型,用于生成高质量样本。此外,我们引入了一种基于信息熵的加权方法来平衡 EMOPs 的不同目标。该方法与引导策略相结合,确保在优化过程中所有目标均得到适当平衡与充分考虑;在合成基准测试与真实世界问题上的大量实验结果表明,与多种最先进的 MOBO 算法相比,我们提出的算法取得了更优的性能。
关键词
引用
@article{arxiv.2405.08674,
title = {Expensive Multi-Objective Bayesian Optimization Based on Diffusion Models},
author = {Bingdong Li and Zixiang Di and Yongfan Lu and Hong Qian and Feng Wang and Peng Yang and Ke Tang and Aimin Zhou},
journal= {arXiv preprint arXiv:2405.08674},
year = {2024}
}