基于双阶段扰动测试的特征归因：必要性与充分性
机器学习
2024-06-05 v4 统计方法学
摘要
我们研究了机器学习模型可解释性问题，关注通过扰动测试评估特征重要性的特征归因方法（FAM）。尽管这些方法具有实用性，但在预测变化后扰动相似的特征难以区分其贡献。为增强 FAM 的判别能力，我们引入特征归因必要性与充分性（FANS），通过寻找输入邻域，使得该邻域内的扰动样本对预测变化具有高概率是必要性与充分性（PNS）原因，并将该 PNS 作为特征的重要性。具体而言，FANS 通过估计邻域的启发式策略以及涉及两阶段（事实性和干预性）的扰动测试来计算此 PNS，用于反事实推理。为生成反事实样本，我们采用基于样本的重抽方法来逼近所需的条件分布。我们在六个基准测试中表明 FANS 优于现有归因方法。请通过 \url{https://github.com/DMIRLAB-Group/FANS} 获取源代码。
引用
@article{arxiv.2402.08845,
title = {Feature Attribution with Necessity and Sufficiency via Dual-stage Perturbation Test for Causal Explanation},
author = {Xuexin Chen and Ruichu Cai and Zhengting Huang and Yuxuan Zhu and Julien Horwood and Zhifeng Hao and Zijian Li and Jose Miguel Hernandez-Lobato},
journal= {arXiv preprint arXiv:2402.08845},
year = {2024}
}
备注
Accepted in the Proceedings of the 41st International Conference on Machine Learning (ICML2024)