批量贝叶斯优化的最优初始化
机器学习
2024-04-30 v1 机器学习
摘要
现场实验和计算机仿真是测量不同设置下工程系统性能的有效方法,但耗时较长。为缩短所需时间,实验者可采用贝叶斯优化,该方法节省测量次数,并可同时对多个设置进行测量。在实际应用中,实验者使用很少的批量次数,因此每个批量都必须尽可能信息丰富。通常情况下,批量贝叶斯优化 (BBO) 的初始批量是从准随机样本中构造的。我们提出了一种批量设计获取函数,称为最小终端方差 (Minimal Terminal Variance, MTV),通过优化而非随机抽样来设计批量。MTV 采用设计实验中的 I-Optimality 标准函数,该函数最小化对整体设置空间中质量估计后评估方差。MTV 将积分加权为使该设置最优的概率,从而能够设计不仅用于初始批量,还用于所有后续批量。与其他获取函数相比,MTV 在初始化和后续批量上的适用性是独一无二的。数值实验表明,MTV 在测试函数和仿真器上与其他 BBO 方法相比,性能优异。
关键词
引用
@article{arxiv.2404.17997,
title = {Optimal Initialization of Batch Bayesian Optimization},
author = {Jiuge Ren and David Sweet},
journal= {arXiv preprint arXiv:2404.17997},
year = {2024}
}
备注
10 pages, 8 figures