基于反演的潜在贝叶斯优化
机器学习
2024-11-11 v1 人工智能
摘要
潜在贝叶斯优化（LBO）方法通过采用编码器-解码器架构，成功地在连续潜在空间上实施了贝叶斯优化，解决了在高维或离散输入空间中进行优化的挑战。LBO 学习一个代理模型来近似黑盒目标函数在潜在空间中的表现。然而，我们观察到大多数 LBO 方法都受到错位问题的影响，这是由编码器-解码器架构的重构误差引起的。它阻碍了学习准确的代理模型和生成高质量解。此外，一些基于信任区域的 LBO 方法仅根据目标函数值选择锚点（即信任区域的中心），而没有考虑信任区域对优化过程的增强潜力。为了解决这些问题，我们提出了基于反演的潜在贝叶斯优化（InvBO），它是 LBO 的一个即插即用模块。InvBO 由两个组件组成：一个反演方法和一个考虑信任区域潜在能力以实现更好局部优化的、感知潜力的信任区域锚点选择。实验结果证明了 InvBO 在九个真实世界基准上的有效性，例如分子设计和算术表达式拟合任务。代码可在 https://github.com/mlvlab/InvBO 获取。
引用
@article{arxiv.2411.05330,
title = {Inversion-based Latent Bayesian Optimization},
author = {Jaewon Chu and Jinyoung Park and Seunghun Lee and Hyunwoo J. Kim},
journal= {arXiv preprint arXiv:2411.05330},
year = {2024}
}
备注
Accepted to NeurIPS 2024