信息几何优化中的目标改进
机器学习
2013-03-08 v3 人工智能
最优化与控制
机器学习
摘要
信息几何优化 (IGO) 是用于优化问题的随机算法的统一框架。给定一族概率分布，IGO 将原始优化问题转化为概率分布参数空间上的新最大化问题。IGO 沿自然梯度更新概率分布的参数，该梯度是相对于参数流形上的 Fisher 度规选取的，旨在最大化目标函数的自适应变换。IGO 将几种已知算法作为特例恢复：对于伯努利分布族，IGO 恢复了 PBIL；对于高斯分布族，恢复了纯秩 -mu CMA-ES 更新；对于期望参数化的指数族，恢复了交叉熵/ML 方法。本文通过证明任何不大于 1 的步长都能保证在优化过程中关于目标函数 的 -分位数值的单调改进，为 IGO 框架提供了理论依据。允许步长的范围独立于 及其定义域。我们将结果扩展以涵盖 IGO 算法中参数块具有不同步长的情况。此外，我们证明了当应用适应度比例选择时，期望适应度随时间提高，在这种情况下恢复了 RPP 算法。
引用
@article{arxiv.1211.3831,
title = {Objective Improvement in Information-Geometric Optimization},
author = {Youhei Akimoto and Yann Ollivier},
journal= {arXiv preprint arXiv:1211.3831},
year = {2013}
}