可解释 AI 中特征相关性量化：一个因果问题
机器学习
2019-11-28 v2 机器学习
摘要
我们讨论了近期利用 Shapley 值量化特征相关性的有前景的贡献，其中我们观察到对于被丢弃特征应使用何种概率分布存在一些混淆。我们认为该混淆源于未仔细区分观测性与干预性条件概率，并试图基于 Pearl 关于因果关系的开创性工作进行澄清。我们得出结论：无条件的而非条件的期望提供了丢弃特征的正确概念，这与软件包 SHAP 的理论依据相矛盾。SHAP 的部分内容不受影响，因为其使用了无条件期望（我们认为概念上正确）作为条件期望的近似，这促使他人以我们认为有误的方式“改进”SHAP。
引用
@article{arxiv.1910.13413,
title = {Feature relevance quantification in explainable AI: A causal problem},
author = {Dominik Janzing and Lenon Minorics and Patrick Blöbaum},
journal= {arXiv preprint arXiv:1910.13413},
year = {2019}
}
备注
11 pages, 5 figures