基于多输出混合回归与分类的景观感知自动算法配置
机器学习
2024-09-04 v1 神经与进化计算
摘要
在景观感知算法选择问题中，基于特征的预测模型的有效性严重依赖于实际应用中训练数据的代表性。本文我们研究随机生成函数（RGF）用于模型训练的潜力，这些函数涵盖了与广泛使用的黑盒优化基准（BBOD）套件相比更为多样化的优化问题类别。相应地，我们关注自动算法配置（AAC），即根据问题实例的景观特征选择最合适的算法并微调其超参数。精确地，我们分析了稠密神经网络（NN）模型在处理不同训练数据集（如 RGF 和许多仿射 BBOD（MA-BBOD）函数）的多输出混合回归和分类任务中的性能。在我们对 BBOD 函数在 5 维和 20 维的实验中，可以使用所提出的方法识别出接近最优的配置，这些配置大多数时候会超过实践者使用有限 AAC 知识所采用的即插即用默认配置。此外，预测的配置在许多情况下与单一最佳求解器竞争。总体而言，使用在 RGF 和 MA-BBOD 函数组合上训练的 NN 模型可最好地识别出更佳性能的配置。
引用
@article{arxiv.2409.01446,
title = {Landscape-Aware Automated Algorithm Configuration using Multi-output Mixed Regression and Classification},
author = {Fu Xing Long and Moritz Frenzel and Peter Krause and Markus Gitterle and Thomas Bäck and Niki van Stein},
journal= {arXiv preprint arXiv:2409.01446},
year = {2024}
}