进化Hessian学习：强制最优协方差自适应学习(FOCAL)
神经与进化计算
2011-12-20 v1 数值分析
量子物理
摘要
协方差矩阵自适应进化策略(CMA-ES)在利用协方差信息方面是最成功的进化策略；它使用一种主成分分析形式，在某些条件下，被认为收敛到正确的协方差矩阵，该矩阵被表述为数学上定义良好的Hessian矩阵的逆。然而，在实践中，存在CMA-ES收敛到全局最优（实现其主要目标）但未能学习真实协方差矩阵（错过辅助目标）的情况，这很可能是由于步长不足。这些情况可能涉及具有大条件数的高维景观。本文介绍了一种名为强制最优协方差自适应学习(FOCAL)的新技术，其明确目标是确定全局吸引盆处的Hessian矩阵。首先介绍了学习到的协方差矩阵与Hessian矩阵之间逆关系的理论基础。然后引入FOCAL，并证明它能够在模型景观和实验量子控制系统（观察到具有不可分离、非二次的搜索景观）上高保真地恢复Hessian矩阵。恢复的Hessian形式得到了系统物理知识的证实。这项研究构成了自然计算成功服务于其他自然科学分支的一个例子，同时为任何寻求景观信息的高维连续搜索引入了一种强大的通用方法。
引用
@article{arxiv.1112.4454,
title = {Evolutionary Hessian Learning: Forced Optimal Covariance Adaptive Learning (FOCAL)},
author = {Ofer M. Shir and Jonathan Roslund and Darrell Whitley and Herschel Rabitz},
journal= {arXiv preprint arXiv:1112.4454},
year = {2011}
}