溯因解释的公理化聚合方法
人工智能
2023-10-13 v3
摘要
近期对后验模型近似解释方法（如 LIME 和 SHAP）鲁棒性的批评，促使了模型精确的溯因解释兴起。对于每个数据点，溯因解释提供了一个足以生成该结果的最小特征子集。尽管在理论上严谨可靠，溯因解释存在一个主要问题——同一数据点可能存在多个有效的溯因解释。在此情况下，仅提供单一溯因解释可能不够充分；另一方面，提供所有有效溯因解释又会因其规模而难以理解。在本工作中，我们通过将众多可能的溯因解释聚合成特征重要性分数来解决此问题。我们提出了三种聚合方法：两种基于合作博弈论中的权力指数，第三种基于一种知名的因果强度度量。我们从公理化角度刻画了这三种方法，表明每一种都唯一满足一组期望性质。我们还在多个数据集上对其进行了评估，并表明这些解释对能够欺骗 SHAP 和 LIME 的攻击具有鲁棒性。
引用
@article{arxiv.2310.03131,
title = {Axiomatic Aggregations of Abductive Explanations},
author = {Gagan Biradar and Yacine Izza and Elita Lobo and Vignesh Viswanathan and Yair Zick},
journal= {arXiv preprint arXiv:2310.03131},
year = {2023}
}