Q(D)O-ES：用于 AutoML 中事后集成选择的基于种群的质量（多样性）优化
机器学习
2023-08-03 v2 神经与进化计算
摘要
自动化机器学习（AutoML）系统通常事后集成模型以提升预测性能，典型方式是通过贪婪集成选择（GES）。然而，我们认为 GES 未必总是最优的，因为它执行的是一种简单的确定性贪婪搜索。在这项工作中，我们引入了两种新颖的基于种群的集成选择方法 QO-ES 和 QDO-ES，并将它们与 GES 进行比较。QO-ES 仅优化预测性能，而 QDO-ES 还考虑种群内集成方法的多样性，基于质量多样性优化的思想在优化过程中维持一组多样化的高性能集成。这些方法使用来自 AutoML 基准的 71 个分类数据集进行评估，结果表明 QO-ES 和 QDO-ES 常优于 GES，尽管仅在验证数据上具有统计显著性。我们的结果进一步表明，多样性可能有益于事后集成，但也增加了过拟合的风险。
引用
@article{arxiv.2307.08364,
title = {Q(D)O-ES: Population-based Quality (Diversity) Optimisation for Post Hoc Ensemble Selection in AutoML},
author = {Lennart Purucker and Lennart Schneider and Marie Anastacio and Joeran Beel and Bernd Bischl and Holger Hoos},
journal= {arXiv preprint arXiv:2307.08364},
year = {2023}
}
备注
10 pages main paper, 24 pages references and appendix, 4 figures, 16 subfigures, 13 tables, to be published in: International Conference on Automated Machine Learning 2023; affiliations corrected. arXiv admin note: text overlap with arXiv:2307.00286