基于信息几何视角的 CMA-ES 理论基础
神经与进化计算
2012-06-06 v1
摘要
本文从信息几何视角探讨协方差矩阵自适应进化策略(CMA-ES)的理论基础。为建立 CMA-ES 的理论基础，我们关注具有 Fisher 度量的概率分布黎曼流形的几何结构。我们在流形上定义一个函数，即适应度在采样分布上的期望，并将 CMA-ES 中采样分布参数更新的目标视为最大化期望适应度。我们研究了期望适应度最大化的最速上升学习，其中最速上升方向由自然梯度给出，即 Fisher 信息矩阵的逆与函数常规梯度的乘积。我们的第一个结果是，在某些类型的多元正态分布参数化下，我们可以无需求逆 Fisher 信息矩阵而得到期望适应度的自然梯度。我们发现 CMA-ES 中分布参数的更新与期望适应度最大化的自然梯度学习相同。我们的第二个结果是，我们推导了学习率的范围，使得沿精确自然梯度方向的步长能改善期望适应度中的参数。从 CMA-ES 与自然梯度学习的密切关系可以看出，CMA-ES 中学习率的默认设置似乎在期望适应度的单调改进方面是合适的。然后，我们讨论了与期望最大化框架的关系，并提供了 CMA-ES 的信息几何解释。
引用
@article{arxiv.1206.0730,
title = {Theoretical foundation for CMA-ES from information geometric perspective},
author = {Youhei Akimoto and Yuichi Nagata and Isao Ono and Shigenobu Kobayashi},
journal= {arXiv preprint arXiv:1206.0730},
year = {2012}
}
备注
Algorithmica (special issue on evolutionary computation)