中文

面向动态成本环境的非随意贝叶斯优化

机器学习 2026-01-13 v1 人工智能

摘要

贝叶斯优化(BO)是优化黑盒函数的常用框架,但大多数现有方法假设查询成本为静态值,仅依赖随意获取策略。我们引入LookaHES,一种针对动态、历史依赖成本环境的非随意BO框架,其中评估成本随先前动作而变化,例如空间任务中的旅行距离或序列设计中的编辑距离。LookaHES结合了多步H H -熵搜索(HH-Entropy Search)的变体、路径采样和神经策略优化,能够在不涉及指数级复杂度的前提下进行二十步以上的长期规划。其核心创新在于将神经策略(包括大型语言模型)集成,以有效导航结构化、组合动作空间,如蛋白质序列。这些策略对 lookahead 规划进行摊销,并可在 rollout 过程中集成特定领域的约束。实验结果表明,LookaHES在九个二维到八维合成基准测试以及两个真实任务(基于NASA夜光影像的地理空间优化和带约束token级编辑的蛋白质序列设计)中均优于强大的随意和非随意基线。简而言之,LookaHES为在复杂决策空间中实现稳健的长期优化提供了通用、可扩展且具成本感知能力的解决方案,为机器学习、统计学及应用领域的研究者提供了有用的工具。我们的实现已公开于 https://github.com/sangttruong/nonmyopia。

关键词

引用

@article{arxiv.2601.06505,
  title  = {Neural Nonmyopic Bayesian Optimization in Dynamic Cost Settings},
  author = {Sang T. Truong and Duc Q. Nguyen and Willie Neiswanger and Ryan-Rhys Griffiths and Stefano Ermon and Nick Haber and Sanmi Koyejo},
  journal= {arXiv preprint arXiv:2601.06505},
  year   = {2026}
}

备注

32 pages, 20 figures, 13 tables