面向多样性优化的密度下降法
机器学习
2024-05-31 v2 神经与进化计算
摘要
多样性优化旨在发现一组具有多样化特征的解。先前的工作提出了新颖性搜索（NS），该方法在给定当前解集的情况下，通过寻找特征空间中低密度区域的点来扩展该集合。然而，为了估计密度，NS依赖于一种启发式方法，即考虑搜索点在特征空间中的k近邻，这导致稳定性保证较弱。我们提出了密度下降搜索（DDS），一种通过CMA-ES在特征空间的连续密度估计上进行探索的算法，该算法还提供了更强的稳定性保证。我们使用两种密度估计方法对DDS进行了实验：核密度估计（KDE）和连续归一化流（CNF）。在几个标准多样性优化基准上，DDS优于NS、最近提出的MAP-Annealing算法以及其他最先进的基线方法。此外，我们证明了带有KDE的DDS提供了比NS更强的稳定性保证，使其更适合自适应优化器。此外，我们证明了NS是DDS的一个特例，即下降特征空间的KDE。
引用
@article{arxiv.2312.11331,
title = {Density Descent for Diversity Optimization},
author = {David H. Lee and Anishalakshmi V. Palaparthi and Matthew C. Fontaine and Bryon Tjanaka and Stefanos Nikolaidis},
journal= {arXiv preprint arXiv:2312.11331},
year = {2024}
}
备注
15 pages, 5 figures, published as a conference paper at the 2024 Genetic and Evolutionary Computation Conference (GECCO '24)