单调凸二次复合函数上自然梯度算法的分析
人工智能
2017-06-20 v2 最优化与控制
摘要
本文研究了协方差矩阵自适应进化策略（CMA-ES）的一个变体的收敛性质。我们的研究基于最近的理论基础，即纯 rank-mu 更新 CMA-ES 在 Gaussian 分布参数空间上执行自然梯度下降。我们推导了自然梯度方法的一个新变体，其中 Gaussian 分布的参数沿自然梯度更新，以改进参数空间上新定义的函数。我们在单调函数与凸二次函数的复合函数上研究此算法。我们证明了该算法能自适应协方差矩阵，使其正比于原始目标函数 Hessian 矩阵的逆。我们还展示了协方差矩阵自适应的速度和参数收敛的速度。我们引入了一个用有限样本近似自然梯度的随机算法，并给出了一些仿真结果，以评估该随机算法在有限样本下逼近确定性理想算法的精确程度，并观察我们的算法与 CMA-ES 的表现如何相似。
引用
@article{arxiv.1204.4141,
title = {Analysis of a Natural Gradient Algorithm on Monotonic Convex-Quadratic-Composite Functions},
author = {Youhei Akimoto},
journal= {arXiv preprint arXiv:1204.4141},
year = {2017}
}
备注
Presented in Genetic and Evolutionary Computation Conference (GECCO 2012) (2012). Some errata have been corrected