中文

qPOTS:基于帕累托最优Thompson采样的高效批量多目标贝叶斯优化

最优化与控制 2025-02-18 v3 机器学习

摘要

经典的多目标优化演化方法相当准确,但对目标函数的查询次数很多;当目标为昂贵的预言机时,这可能是 prohibitive 的。一种样本高效的多目标优化求解方法是通过高斯过程(GP)代理和贝叶斯优化(BO)。多目标贝叶斯优化(MOBO)涉及构造一个获取函数,该函数被优化以顺序获取新的观测候选。这种“内部”优化可能由于各种原因而困难:获取函数非凸、不可微和/或没有解析形式;批量采样通常加剧这些问题,且MOBO的成功严重依赖于该内部优化。这最终影响了它们的样本效率。为克服这些挑战,我们提出了一种基于Thompson采样(TS)的方法(qPOTSq\texttt{POTS})。TS根据候选为最优的概率选择候选,而qPOTSq\texttt{POTS}根据候选为帕累托最优的概率选择候选。不同于困难的获取函数优化,qPOTS q\texttt{POTS}~在GP后验上使用演化方法求解一个廉价的多目标优化。这样我们兼得两者之长:演化方法的准确性与MOBO的样本高效性。新候选根据极大极小距离准则在GP后验帕累托前沿上被选取。qPOTS q\texttt{POTS}~具有理论保证、自然的探索-利用权衡以及优越的实证性能。

关键词

引用

@article{arxiv.2310.15788,
  title  = {qPOTS: Efficient batch multiobjective Bayesian optimization via Pareto optimal Thompson sampling},
  author = {Ashwin Renganathan and Kade E. Carlson},
  journal= {arXiv preprint arXiv:2310.15788},
  year   = {2025}
}

备注

25 pages, 8 figures, AISTATS 2025