统一视角：全局、分组和局部层面的合理反事实解释
机器学习
2026-05-12 v3 人工智能
统计方法学
摘要
AI系统日益增长的复杂性加剧了通过可解释人工智能（XAI）实现透明度的需求。反事实解释（CFs）在三个层面上提供可操作的“假设”场景：局部CFs提供实例特定的见解，全局CFs解决更广泛的趋势，分组CFs（GWCFs）在凝聚组内取得平衡并揭示模式。尽管存在针对每个粒度级别的方法，但该领域缺乏一种整合这些互补方法的统一方法。我们通过提出一种针对可微分模型的基于梯度的优化方法来解决这一局限性，该方法以统一的方式生成局部、全局和分组反事实解释。我们特别通过将实例分组和反事实生成结合到单个高效过程中来增强GWCF生成，取代传统的两步方法。此外，为确保可信度，我们创新性地将合理性标准整合到GWCF领域，使解释既有效又现实。我们的结果证明了该方法在优化组粒度的同时平衡有效性、接近性和合理性的有效性，并通过实际用例验证了其实用价值。
引用
@article{arxiv.2405.17642,
title = {Unifying Perspectives: Plausible Counterfactual Explanations on Global, Group-wise, and Local Levels},
author = {Oleksii Furman and Patryk Wielopolski and Łukasz Lenkiewicz and Jerzy Stefanowski and Maciej Zięba},
journal= {arXiv preprint arXiv:2405.17642},
year = {2026}
}