迈向可行的反事实解释：一种基于分类体系的模板化自然语言生成方法
人工智能
2023-10-04 v1
摘要
反事实解释（cf-XAI）描述了将结果从一类改变为另一类所需的特征值最小变动。然而，许多 cf-XAI 方法忽视了这些变动的可行性。本文中，我们引入了一种以自然语言呈现 cf-XAI（Natural-XAI）的新方法，在仔细考量可操作性与可理解性方面的同时，保持对不可变性与伦理问题的警觉。我们为此作出三点贡献。首先，通过用户研究，我们识别出人类所撰写 cf-XAI 中存在的两类主题：内容相关主题，聚焦于从反事实与查询两个视角如何纳入特征及其取值；以及结构相关主题，聚焦于描述必要取值变动所用的结构与术语。其次，我们引入了一个具有四个明确定义类别的特征可操作性分类体系，以简化解释呈现过程。利用用户研究与分类体系的洞见，我们创建了一种可与 DICE、NICE 和 DisCERN 等现有解释器兼容的、可泛化的基于模板的自然语言生成（NLG）方法，以生成能解决上述现有方法局限的反事实。最后，我们开展了第二项用户研究，以评估我们的分类体系引导 NLG 模板在三个领域上的表现。我们的发现表明，分类体系引导的 Natural-XAI 方法（n-XAI^T）在所有维度上获得了更高的用户评分，且在所评估的大部分领域中，在表述性、可接受性、可行性与敏感性维度上结果均有显著改善。
引用
@article{arxiv.2310.02019,
title = {Towards Feasible Counterfactual Explanations: A Taxonomy Guided Template-based NLG Method},
author = {Pedram Salimi and Nirmalie Wiratunga and David Corsar and Anjana Wijekoon},
journal= {arXiv preprint arXiv:2310.02019},
year = {2023}
}