贝叶斯优化优于随机搜索用于机器学习超参数调优：2020黑盒优化挑战赛分析
机器学习
2021-09-01 v2 人工智能
机器学习
摘要
本文展示了2020年NeurIPS黑盒优化（BBO）挑战赛（2020年7月至10月举办）的结果与见解。该挑战赛强调了评估无导数优化器以调优机器学习模型超参数的重要性。这是首个以机器学习为重点的黑盒优化挑战赛。其基于标准机器学习模型在真实数据集上的（验证集）性能调优。该竞赛具有广泛影响，因为黑盒优化（例如贝叶斯优化）几乎在每个机器学习项目以及许多机器学习之外的应用中都与超参数调优相关。最终排行榜使用在留出（隐藏）目标函数上的优化性能确定，优化器在无人工干预的情况下运行。基线通过使用多个开源黑盒优化包的默认设置以及随机搜索来设定。
引用
@article{arxiv.2104.10201,
title = {Bayesian Optimization is Superior to Random Search for Machine Learning Hyperparameter Tuning: Analysis of the Black-Box Optimization Challenge 2020},
author = {Ryan Turner and David Eriksson and Michael McCourt and Juha Kiili and Eero Laaksonen and Zhen Xu and Isabelle Guyon},
journal= {arXiv preprint arXiv:2104.10201},
year = {2021}
}