全局反事实解释:调研、实现与改进
机器学习
2022-04-15 v1 人工智能
计算机与社会
机器学习
摘要
反事实解释在可解释性领域已被广泛研究,在公平性、补救和模型理解方面涌现出一系列依赖应用的方法。然而,这些方法的主要缺陷在于无法提供局部或实例层面之外的解释。尽管部分工作触及全局解释的概念,通常建议聚合大量局部解释以期探明全局性质,但极少提供既可靠又可计算处理的框架。与此同时,实践者正需求更高效且可交互的可解释性工具。我们借此机会调研现有全局方法,重点实现并改进 Actionable Recourse Summaries (AReS)——唯一已知的用于补救的全局反事实解释框架。
引用
@article{arxiv.2204.06917,
title = {Global Counterfactual Explanations: Investigations, Implementations and Improvements},
author = {Dan Ley and Saumitra Mishra and Daniele Magazzeni},
journal= {arXiv preprint arXiv:2204.06917},
year = {2022}
}
备注
Published as a workshop paper at ICLR 2022 (5 page main text, references, 3 page appendix)