HyperSHAP：用于解释超参数优化的 Shapley 值与交互
机器学习
2025-11-11 v2 人工智能
机器学习
摘要
超参数优化（HPO）是实现强大预测性能的关键步骤。然而，单个超参数对模型泛化的影响高度依赖于上下文，这阻碍了一刀切的解决方案，并需要不透明的 HPO 方法来找到最优配置。然而，大多数 HPO 方法的黑箱特性削弱了用户信任，阻碍了其采用。为了解决这个问题，我们提出了一个基于 Shapley 值和交互的博弈论可解释性框架，用于 HPO。我们的方法提供了性能度量跨超参数的加性分解，能够对超参数的贡献及其交互进行局部和全局解释。该框架名为 HyperSHAP，为消融研究、学习算法的可调性以及优化器在不同超参数空间中的行为提供了洞见。我们在各种 HPO 基准上展示了 HyperSHAP 的能力，以分析相应 HPO 问题的交互结构，证明了其广泛的适用性以及为改进 HPO 提供的可操作见解。
引用
@article{arxiv.2502.01276,
title = {HyperSHAP: Shapley Values and Interactions for Explaining Hyperparameter Optimization},
author = {Marcel Wever and Maximilian Muschalik and Fabian Fumagalli and Marius Lindauer},
journal= {arXiv preprint arXiv:2502.01276},
year = {2025}
}
备注
Accepted at AAAI-26 (oral)