实现反事实解释的多样性：综述与讨论
人工智能
2023-05-11 v1 机器学习
统计方法学
摘要
在可解释人工智能（XAI）领域，反事实示例通过指出对实例需做的修改以改变其关联预测，向用户解释已训练决策模型的预测结果。这些反事实示例通常被定义为一个优化问题的解，其代价函数结合了若干标准以量化满足用户需求的良好解释所应具备的性质。由于用户需求通常未知且因人而异，可考虑的此类适当属性种类繁多，其选取与形式化十分困难。为规避该问题，若干方法提出生成一组多样的反事实示例（而非单个）来解释预测。本文综述了针对多样性这一概念已提出的众多且有时相互冲突的定义，讨论了其背后原理及所依赖的对用户需求的假设，并提议沿若干维度（显式 vs 隐式、所定义的空间、作用层级）对其分类，从而识别出该主题上进一步的研究挑战。
引用
@article{arxiv.2305.05840,
title = {Achieving Diversity in Counterfactual Explanations: a Review and Discussion},
author = {Thibault Laugel and Adulam Jeyasothy and Marie-Jeanne Lesot and Christophe Marsala and Marcin Detyniecki},
journal= {arXiv preprint arXiv:2305.05840},
year = {2023}
}