因果推断与可解释人工智能中的反事实：从假设到洞见
机器学习
2025-05-20 v1 人工智能
机器学习
计量经济学
统计方法学
摘要
反事实在因果推断 (causal inference, CI) 和可解释人工智能 (explainable artificial intelligence, XAI) 这两个数据科学领域中均占据着关键作用。尽管反事实的核心思想在两个领域中始终如一——即检验在不同情况下会发生什么——但在如何使用和解释方面存在关键差异。我们提出了一个涵盖 CI 和 XAI 中反事实多方面概念的正式定义。随后，我们讨论了反事实在 CI 与 XAI 中如何被使用、评估、生成和操作化，突出了概念和实际差异。通过比较和对比这两者，我们希望在 CI 和 XAI 之间识别出交叉融合的机会。
引用
@article{arxiv.2505.13324,
title = {From What Ifs to Insights: Counterfactuals in Causal Inference vs. Explainable AI},
author = {Galit Shmueli and David Martens and Jaewon Yoo and Travis Greene},
journal= {arXiv preprint arXiv:2505.13324},
year = {2025}
}