通过因果结构学习实现高效的 SAGE 估计
机器学习
2023-04-07 v1 机器学习
摘要
Shapley Additive Global Importance (SAGE) 值是一种在理论上具有吸引力的可解释性方法，可公平地将全局重要性分配给模型的特征。然而，其精确计算需要对指数级数量的特征集计算该特征的剩余性能贡献。这在计算上代价高昂，特别是因为估计剩余贡献需要从条件分布中采样。因此，SAGE 近似算法仅考虑一小部分特征集。我们提出 -SAGE，一种加速 SAGE 近似的方法。-SAGE 的动机在于观察到：特征与模型目标之间的条件独立性（CIs）意味着零剩余贡献，从而可跳过其计算。为识别 CIs，我们利用因果结构学习（CSL）推断一个图，该图将数据中的（条件）独立性编码为 -分离。这在计算上更高效，因为一次性图推断与 -分离查询的代价相较于剩余贡献评估的代价可忽略不计。我们通过实验证明 -SAGE 能够实现 SAGE 值的高效且准确的估计。
引用
@article{arxiv.2304.03113,
title = {Efficient SAGE Estimation via Causal Structure Learning},
author = {Christoph Luther and Gunnar König and Moritz Grosse-Wentrup},
journal= {arXiv preprint arXiv:2304.03113},
year = {2023}
}
备注
equal contribution between Luther and K\"onig; accepted at AISTATS 2023