CMA-ES非光滑状态空间模型的不可约性及其应用
最优化与控制
2024-10-02 v2 概率论
摘要
我们分析了CMA-ES零阶优化方法中状态归一化导致的随机过程。在一个特定类别的最小化问题中，其中目标函数具有尺度不变性，这一过程定义了一个时齐马尔可夫链，其几何收敛率可暗示CMA-ES的线性收敛。然而，对这一过程复杂更新的分析构成了巨大的数学挑战。我们建立了该马尔可夫链是不可约和非周期性的T链。这些贡献代表了关于收敛分析至平稳分布的第一个重大步骤。我们依赖于关于非光滑状态空间模型不可约性的条件进行分析。为获得结果，我们将这些条件扩展到处理不同超参数设置下定义的不同马尔可夫链的不可约性，并包括非光滑状态空间。
引用
@article{arxiv.2409.20107,
title = {Irreducibility of nonsmooth state-space models with an application to CMA-ES},
author = {Armand Gissler and Shan-Conrad Wolf and Anne Auger and Nikolaus Hansen},
journal= {arXiv preprint arXiv:2409.20107},
year = {2024}
}