利用统计流形中的测地线进行黑盒优化

信息几何优化 (IGO) 是一个针对随机优化问题的通用框架，旨在限制任意参数化选择的影响。初始问题被转化为黎曼流形上光滑函数的优化，定义了一个参数化不变的一阶微分方程。然而在实践中，必须对时间进行离散化，此时参数化不变性仅在步长的一阶上成立。我们定义了测地线 IGO 更新 (GIGO)，它利用黎曼流形结构获得完全独立于流形参数化的更新。我们在经典目标函数上对其进行了测试。借助经典力学中的 Noether 定理，我们找到了一种有效的方法来写出高斯分布统计流形测地线所满足的一阶微分方程，从而计算相应的 GIGO 更新。随后，我们将 GIGO 与纯 rank-$\mu$ CMA-ES \cite{CMATuto} 和 xNES \cite{xNES}（两种可通过 IGO 框架恢复的先前算法）进行比较，结果表明，虽然当均值固定时 GIGO 和 xNES 更新一致，但在一般情况下它们是不同的，这与之前的直觉相反。接着，我们定义了一种新算法（分块 GIGO），它从抽象原理恢复了 xNES 更新。