面向动态成本环境的非随意贝叶斯优化
机器学习
2026-01-13 v1 人工智能
摘要
贝叶斯优化(BO)是优化黑盒函数的常用框架,但大多数现有方法假设查询成本为静态值,仅依赖随意获取策略。我们引入LookaHES,一种针对动态、历史依赖成本环境的非随意BO框架,其中评估成本随先前动作而变化,例如空间任务中的旅行距离或序列设计中的编辑距离。LookaHES结合了多步-熵搜索(-Entropy Search)的变体、路径采样和神经策略优化,能够在不涉及指数级复杂度的前提下进行二十步以上的长期规划。其核心创新在于将神经策略(包括大型语言模型)集成,以有效导航结构化、组合动作空间,如蛋白质序列。这些策略对 lookahead 规划进行摊销,并可在 rollout 过程中集成特定领域的约束。实验结果表明,LookaHES在九个二维到八维合成基准测试以及两个真实任务(基于NASA夜光影像的地理空间优化和带约束token级编辑的蛋白质序列设计)中均优于强大的随意和非随意基线。简而言之,LookaHES为在复杂决策空间中实现稳健的长期优化提供了通用、可扩展且具成本感知能力的解决方案,为机器学习、统计学及应用领域的研究者提供了有用的工具。我们的实现已公开于 https://github.com/sangttruong/nonmyopia。
引用
@article{arxiv.2601.06505,
title = {Neural Nonmyopic Bayesian Optimization in Dynamic Cost Settings},
author = {Sang T. Truong and Duc Q. Nguyen and Willie Neiswanger and Ryan-Rhys Griffiths and Stefano Ermon and Nick Haber and Sanmi Koyejo},
journal= {arXiv preprint arXiv:2601.06505},
year = {2026}
}
备注
32 pages, 20 figures, 13 tables