中文

增强型贝叶斯优化

机器学习 2026-05-13 v1

摘要

人机贝叶斯优化(HITL BO)方法利用人类专家知识来提高贝叶斯优化的样本效率。大多数HITL BO方法假设领域专家可以量化其知识,例如通过指示查询位置或指定关于最大值所在位置的先验信念作为概率分布。然而,由于人类专家知识往往是隐性的且无法被明确量化,我们考虑一种通过设计的两两比较来询问领域知识的情景。我们将专家的两两判断解释为关于可观测目标函数值的噪声证据,并发展出一种原则方法,用于组合通过直接观察和两两查询获得的信息。具体而言,我们推导了一种成本感知的信息价值获取函数,以平衡直接观察与两两查询。该方法的提出方案接近各个信息来源轨迹的凸包:当两两查询成本较低时,显著优于仅用观察的贝叶斯优化;当两两查询成本高昂或噪声较大时,能够通过仅依赖直接观察来恢复标准贝叶斯优化的性能。

关键词

引用

@article{arxiv.2605.12079,
  title  = {Elicitation-Augmented Bayesian Optimization},
  author = {Alvar Haltia and Ville Hyvönen and Samuel Kaski},
  journal= {arXiv preprint arXiv:2605.12079},
  year   = {2026}
}