信息几何优化算法：基于不变性原理的统一图景

我们提出了一种规范方法，可将任意搜索空间 $X$ 上的任意光滑参数化概率分布族转化为 $X$ 上的连续时间黑箱优化方法，即信息几何优化（IGO）方法。以不变性作为设计原则，最大限度地减少了任意选择的数量。由此产生的 IGO 流对目标函数进行自适应的、时间相关的、基于分位数的变换的自然梯度上升。它对要优化的目标函数不做任何假设。IGO 方法通过时间离散化产生显式的 IGO 算法。它自然地恢复了已知算法的版本，并提供了一种推导新算法的系统方法。交叉熵方法在特定情况下被恢复，并可扩展为平滑的、参数化无关的最大似然更新（IGO-ML）。对于 $\mathbb{R}^d$ 上的高斯分布，IGO 与自然进化策略（NES）相关，并恢复了 CMA-ES 算法的一个版本。对于 $\{0,1\}^d$ 上的伯努利分布，我们恢复了 PBIL 算法。从受限玻尔兹曼机出发，我们获得了一种用于 $\{0,1\}^d$ 上优化的新颖算法。所有这些算法都统一在一个单一的信息几何优化框架下。由于其内在的公式化表述，IGO 方法在搜索空间 $X$ 的重参数化下、在概率分布参数的变化下、以及在目标函数的递增变换下均实现了不变性。理论强烈表明，只要初始多样性足够高，IGO 算法在优化过程中具有最小的多样性损失。使用受限玻尔兹曼机的初步实验证实了这一见解。因此，IGO 似乎从信息论的角度提供了一种优雅的方式，能够在单次运行中自发地探索适应度景观的多个谷底。