将特征基解释统一于函数式 ANOVA 与合作博弈论
机器学习
2025-04-18 v2 机器学习
摘要
特征基解释方法（如通过扰动或梯度）是解释黑箱机器学习模型决策的常用工具。然而，这些方法之间的差异仍大多未知，限制了其在实践中的适用性。在本工作中，我们引入了一个框架，用于对局部和全局特征解释进行统一，基于统计学中的函数式 ANOVA（fANOVA）和合作博弈论中的价值与相互作用概念。我们引入三种 fANOVA 分解，以确定特征分布的影响，并使用Shapley 值和相互作用等博弈论度量来指定更高阶相互作用的影响。我们的框架将这两个维度结合起来，揭示了广泛范围内解释技术在特征及特征组上的相似性和差异性。我们随后在合成数据和真实数据集上展示了框架的实用性。
引用
@article{arxiv.2412.17152,
title = {Unifying Feature-Based Explanations with Functional ANOVA and Cooperative Game Theory},
author = {Fabian Fumagalli and Maximilian Muschalik and Eyke Hüllermeier and Barbara Hammer and Julia Herbinger},
journal= {arXiv preprint arXiv:2412.17152},
year = {2025}
}