可调性：机器学习算法超参数的重要性
机器学习
2018-10-23 v3
摘要
现代监督式机器学习算法涉及必须在运行前设定的超参数。设定超参数的选项包括软件包的默认值、用户手动配置或通过调优过程配置以获得最优预测性能。本文的目标有两方面。首先，我们从统计学角度形式化调优问题，定义基于数据的默认值，并提出量化算法超参数可调性的通用度量。其次，我们基于 OpenML 平台的 38 个数据集和六种常见机器学习算法开展大规模基准研究。我们应用所提出的度量来评估其参数的可调节性。我们的结果给出了超参数的默认值，并使用户能够决定是否值得进行可能耗时的调优策略、聚焦于最重要的超参数以及为调优选择适当的超参数空间。
引用
@article{arxiv.1802.09596,
title = {Tunability: Importance of Hyperparameters of Machine Learning Algorithms},
author = {Philipp Probst and Bernd Bischl and Anne-Laure Boulesteix},
journal= {arXiv preprint arXiv:1802.09596},
year = {2018}
}
备注
22 pages, 10 tables, 8 figures