从业者使用不同超参数优化方法的动机
机器学习
2026-01-08 v5
摘要
程序化超参数优化（HPO）方法，如贝叶斯优化与进化算法，在识别机器学习（ML）模型的最优超参数配置时具有极高的样本效率。然而，从业者频繁使用效率较低的方法，如网格搜索，这可能导致模型欠优化。我们怀疑该行为由一系列从业者特定动机所驱动。但从业者动机仍待厘清，以促进以用户为中心的 HPO 工具开发。为揭示从业者使用不同 HPO 方法的动机，我们开展了 20 场半结构化访谈及一项有 49 位 ML 专家参与的在线调查。通过呈现主要目标（如增进 ML 模型理解）与影响从业者 HPO 方法选择的情境因素（如可用计算资源），本研究提供了一个概念基础，以更好理解从业者为何使用不同 HPO 方法，支持自动化 ML 中更具用户中心与情境自适应 HPO 工具的开发。
引用
@article{arxiv.2203.01717,
title = {Practitioner Motives to Use Different Hyperparameter Optimization Methods},
author = {Niclas Kannengießer and Niklas Hasebrook and Felix Morsbach and Marc-André Zöller and Jörg Franke and Marius Lindauer and Frank Hutter and Ali Sunyaev},
journal= {arXiv preprint arXiv:2203.01717},
year = {2026}
}