MO-DEHB：基于进化的 Hyperband 多目标优化方法
机器学习
2023-05-12 v2 神经与进化计算
摘要
超参数优化（HPO）是一种用于自动化调优机器学习（ML）模型的强大技术。然而，在许多现实应用中，准确率只是必须考虑的多个性能标准之一。在复杂且多样的搜索空间上同时优化这些目标仍然是一项具有挑战性的任务。在本文中，我们提出 MO-DEHB，一种有效且灵活的多目标（MO）优化器，它扩展了近期基于进化的 Hyperband 方法 DEHB。我们使用由 15 个多样且具挑战性的 MO 问题组成的综合基准套件来验证 MO-DEHB 的性能，包括 HPO、神经架构搜索（NAS）以及联合 NAS 与 HPO，其目标包括准确率、延迟和算法公平性。与最先进的 MO 优化器进行的对比研究表明，MO-DEHB 在我们的 15 个基准上 clearly 取得了最佳性能。
引用
@article{arxiv.2305.04502,
title = {MO-DEHB: Evolutionary-based Hyperband for Multi-Objective Optimization},
author = {Noor Awad and Ayushi Sharma and Philipp Muller and Janek Thomas and Frank Hutter},
journal= {arXiv preprint arXiv:2305.04502},
year = {2023}
}