中文

多上下文贝叶斯优化中的机制条件化评估

机器学习 2026-05-07 v1 机器学习

摘要

已发表的迁移贝叶斯优化 (transfer-BO) 对比研究,通常估计采集函数选择在隐藏机制变量上的平均处理效应,而实践者需要的是针对其特定先验质量、预算比率和评估指标的条作效应。一项对 2022 至 2025 年间发表于 NeurIPS、ICML、ICLR、AISTATS、UAI、TMLR、JMLR 和 AutoML-Conf 的 40 篇迁移 BO 论文的审计发现,98% 的论文从未将 B/|A| 作为受控坐标轴进行变化。在同一 GDSC2 基准上,仅改变预算即可逆转排名:在 B=50 时,Greedy 以 0.050 的 Hit@1 优于 UCB;而在 B=100 时,UCB 以 0.035 优于 Greedy。我们用可移植机制得分 PRS=(B/|A|)(1-rho) 来刻画这一转变,其中 rho 为先验秩相关,可在主要对比前从试点上下文中估计。在涵盖化学、药物响应生物学和 HPO 的 79 种条件下,分层模型给出 beta=0.50 (p=1.1e-9),且 19% 的条件处于 |优势|<0.01 Hit@1 的等价区。在五个已发表的排名逆转案例中,PRS 能从对比前可观测量中预测获胜者。“无免费排行榜”命题解释了为何无条件排名不稳定:当 CATE 在不同机制间改变符号时,所报告的 ATE 便成为基准混合构成的函数。RegimePlanner 在线估计 rho 并据此切换采集函数,在 B=100 时赢得了全部 16 个 HPO-B 搜索空间,并在 GDSC2 上超过匹配的 {Greedy,UCB} 逐上下文预言机 18%。预注册预测总体达到 27/40=67.5% 的准确率,在 EMA 先验系列内准确率超过 90%。实用协议很简单:在报告任何声称的采集函数优势时,同时报告 B/|A|、rho、K 和评估指标。

关键词

引用

@article{arxiv.2605.04895,
  title  = {Regime-Conditioned Evaluation in Multi-Context Bayesian Optimization},
  author = {Noel Thomas},
  journal= {arXiv preprint arXiv:2605.04895},
  year   = {2026}
}

备注

42 pages, 9 figures. NeurIPS 2026 submission