基于 KL 散度的代理黑盒优化学习调度控制
机器学习
2013-08-20 v2 人工智能
机器学习
摘要
本文研究了协方差矩阵自适应进化策略 (CMA-ES) 中用于黑盒优化的机器学习组件的控制问题。CMA-ES 的已知弱点是其样本复杂度，即逼近全局最优解所需的目标函数评估次数。这一弱点通常通过代理优化来解决，即学习目标函数的估计值（亦称代理模型），并用（低成本的）代理模型评估替换大部分真实目标函数评估。本文提出了一种基于当前搜索分布与先前代理模型训练分布之间的 Kullback-Leibler 散度，对学习调度（何时重新学习代理模型）进行原则性控制的方法。实验验证表明，与包括拟牛顿高精度 BFGS 方法在内的最佳现有技术相比，所提出的方法在一系列病态基准问题上取得了显著的性能提升。
引用
@article{arxiv.1308.2655,
title = {KL-based Control of the Learning Schedule for Surrogate Black-Box Optimization},
author = {Ilya Loshchilov and Marc Schoenauer and Michèle Sebag},
journal= {arXiv preprint arXiv:1308.2655},
year = {2013}
}