调参还是不调？一种重要超参数推荐方法

自动化机器学习中的新技术简化了算法选择与超参数优化的复杂性。超参数对机器学习模型十分重要，因为它们显著影响机器学习模型的性能。许多优化技术在超参数调优方面取得了显著成功，并超越了人类专家的性能。然而，将此类技术作为黑盒算法依赖，会使机器学习从业者无法洞察不同超参数的相对重要性。在本文中，我们考虑建立机器学习模型性能与其超参数之间的关系，以发现趋势并获得洞察，实验基于六个分类器和 200 个数据集。我们的结果使用户能够决定是否值得进行可能耗时的调优策略、聚焦于最重要的超参数，并为调优选择适当的超参数空间。我们的实验结果表明，梯度提升和 Adaboost 在 200 个问题上优于其他分类器。然而，它们需要调优以提升性能。总体而言，本研究获得的结果为将精力集中于引导式自动化超参数优化提供了定量基础，并有助于开发更好的自动化机器学习框架。