面向高维在线优化的不变信息几何方法
机器学习
2024-01-04 v1 神经与进化计算
摘要
样本效率在优化中至关重要，尤其是在以昂贵评估和零阶反馈为特征的黑箱场景中。当计算资源充足时，贝叶斯优化通常优于进化策略。本文提出一种完全面向不变性的进化策略算法，该算法源自其对应框架，在维度处于贝叶斯能力上限的任务中，能有效匹敌领先的贝叶斯优化方法。具体而言，我们首先构建了 InvIGO 框架，该框架在完全保留不变性和计算复杂度的同时，充分整合了历史信息。随后，我们在多维高斯分布上实例化 InvIGO，得到了一个不变且可扩展的优化器 SynCMA。我们进一步分析了该算法相对于其他基于高斯的进化策略的理论行为和优势。最后，我们在各种高维任务上对 SynCMA 与贝叶斯优化和进化策略中的领先算法进行了基准测试，包括 Mujoco 运动任务、巡视器规划任务和合成函数。在所有场景中，SynCMA 在样本效率方面均展现出强大的竞争力，甚至优于其他算法，显示了面向属性的进化策略尚未充分开发的潜力。
引用
@article{arxiv.2401.01579,
title = {An Invariant Information Geometric Method for High-Dimensional Online Optimization},
author = {Zhengfei Zhang and Yunyue Wei and Yanan Sui},
journal= {arXiv preprint arXiv:2401.01579},
year = {2024}
}