PredDiff：基于条件期望的解释与交互作用
机器学习
2023-07-12 v4 人工智能
机器学习
摘要
PredDiff 是一种扎根于概率论、与模型无关的局部归因方法。其简单直觉是在对特征边缘化时度量预测的变化。在本工作中，我们阐明了 PredDiff 的性质及其与 Shapley 值的密切联系。我们强调了分类与回归之间的重要差异，这两种形式体系内都需要对其作特定处理。我们通过引入一种针对任意特征子集间交互效应的、有充分依据的新度量来扩展 PredDiff。交互效应的研究是迈向对黑盒模型全面理解的必经一步，对科学应用尤为重要。借助我们新颖的交互度量，PredDiff 成为一种有前景的与模型无关的方法，可获得可靠、数值开销低且理论严谨的归因。
引用
@article{arxiv.2102.13519,
title = {PredDiff: Explanations and Interactions from Conditional Expectations},
author = {Stefan Blücher and Johanna Vielhaben and Nils Strodthoff},
journal= {arXiv preprint arXiv:2102.13519},
year = {2023}
}
备注
35 pages, 20 Figures, accepted journal version, code available at https://github.com/AI4HealthUOL/preddiff-interactions