多目标异步逐次减半
机器学习
2021-06-25 v1 机器学习
摘要
超参数优化(HPO)正日益被用于自动调整机器学习模型的预测性能（如准确率）。然而，在大量现实应用中，准确率只是多个——且常常相互冲突的——性能准则之一，这就需要采用多目标(MO)视角。尽管关于 MO 优化的文献十分丰富，但聚焦于 HPO 的先前研究很少。在本文中，我们提出将异步逐次减半(ASHA)扩展到 MO 设置的算法。考虑多个评估指标，我们在三个真实世界任务上评估了这些方法的性能：(i) 神经架构搜索，(ii) 算法公平性，以及 (iii) 语言模型优化。我们的实证分析表明，MO ASHA 能够实现大规模 MO HPO。此外，我们观察到，在候选选择中将整个 Pareto 前沿考虑在内，就挂钟时间而言，始终优于基于 MO 标量化多保真度 HPO。我们的算法（将开源）为该领域未来研究建立了新基线。
引用
@article{arxiv.2106.12639,
title = {Multi-objective Asynchronous Successive Halving},
author = {Robin Schmucker and Michele Donini and Muhammad Bilal Zafar and David Salinas and Cédric Archambeau},
journal= {arXiv preprint arXiv:2106.12639},
year = {2021}
}