一种面向成本约束贝叶斯优化的非短视方法

贝叶斯优化（BO）是一种用于优化昂贵黑盒函数的流行方法。BO 的预算通常以迭代次数给出，这隐含地假设每次评估具有相同的成本。事实上，在许多 BO 应用中，评估成本在搜索空间的不同区域差异显著。在超参数优化中，神经网络训练所花费的时间随层数增加而增加；在临床试验中，药物化合物的货币成本各异；在最优控制中，控制动作具有不同的复杂度。成本约束 BO 使用时间、金钱或能量等替代成本度量来衡量收敛性，标准 BO 方法的样本效率并不适合此类情形。对于成本约束 BO，成本效率远比样本效率重要。在本文中，我们将成本约束 BO 表述为一个约束马尔可夫决策过程（CMDP），并开发了针对最优 CMDP 策略的高效展开近似，该近似同时考虑了成本与未来迭代。我们在一组超参数优化问题以及一个传感器集合选择应用上验证了我们的方法。