BINOCULARS:用于高效非短视序贯实验设计的工具
机器学习
2020-02-11 v3 机器学习
摘要
有限时域序贯实验设计(SED)在许多场景中自然出现,包括机器学习中的超参数调优以及更传统的环境。计算此类问题的最优策略需要求解贝尔曼方程,而这通常是难解的。大多数现有工作通过将决策时域限制为仅单步,诉诸于极度短视的近似,这可能低估探索而偏重利用。我们提出 BINOCULARS:Batch-Informed NOnmyopic Choices, Using Long-horizons for Adaptive, Rapid SED(基于批次信息、利用长时域的自适应快速非短视选择),一个用于推导高效、非短视的最优实验策略近似的通用框架。我们的核心思想简单且出奇有效:先计算出单步最优的实验批次,再从中选取单点进行评估。我们在贝叶斯优化和贝叶斯求积——两个目标截然不同的值得注意的 SED 问题——上实现了 BINOCULARS,并证明 BINOCULARS 在真实场景中显著优于短视的替代方法。
引用
@article{arxiv.1909.04568,
title = {BINOCULARS for Efficient, Nonmyopic Sequential Experimental Design},
author = {Shali Jiang and Henry Chai and Javier Gonzalez and Roman Garnett},
journal= {arXiv preprint arXiv:1909.04568},
year = {2020}
}
备注
13 pages, 4 figures, 6 tables, 1 algorithm