qEUBO:一种用于偏好式贝叶斯优化的决策论获取函数
机器学习
2023-03-29 v1 机器学习
摘要
偏好式贝叶斯优化(PBO)是一种利用偏好反馈来优化决策者潜在效用函数的框架。本文提出最佳选项期望效用(qEUBO)作为一种用于 PBO 的新颖获取函数。当决策者的响应无噪声时,我们证明 qEUBO 是单步贝叶斯最优的,因此等价于流行的知识梯度获取函数。我们还证明,当决策者的响应被噪声干扰时,qEUBO 对单步贝叶斯最优策略享有加性常数近似保证。我们对 qEUBO 进行了广泛评估,并证明其在多种设置下优于 PBO 的当前最优(SOTA)获取函数。最后,我们证明在充分正则条件下,qEUBO 的贝叶斯简单后悔(Bayesian simple regret)随着查询次数 趋于无穷而以 的速率收敛到零。相比之下,我们证明在常用于 PBO 的标准 BO 的流行获取函数 qEI 下,简单后悔可能无法收敛到零。凭借优越性能、简单计算以及扎实的决策论依据,qEUBO 是一种有前景的 PBO 获取函数。
引用
@article{arxiv.2303.15746,
title = {qEUBO: A Decision-Theoretic Acquisition Function for Preferential Bayesian Optimization},
author = {Raul Astudillo and Zhiyuan Jerry Lin and Eytan Bakshy and Peter I. Frazier},
journal= {arXiv preprint arXiv:2303.15746},
year = {2023}
}
备注
In Proceedings of the 26th International Conference on Artificial Intelligence and Statistics (AISTATS) 2023