生成鲁棒的反事实解释
机器学习
2023-04-26 v1 人工智能
摘要
反事实解释已成为 XAI（可解释人工智能）领域的主流方法。这一尤为直观的表述使用户能够理解：为改变模型预测，需对给定情境做出哪些微小但必要的改动。反事实的质量取决于若干标准：真实性、可操作性、有效性、鲁棒性等。本文关注反事实的鲁棒性概念。更确切地说，我们聚焦于对反事实输入变化的鲁棒性。这种鲁棒性尤其具有挑战性，因为它涉及反事实的鲁棒性与待解释样本邻近性之间的权衡。我们提出了一个新框架 CROCO，在有效管理该权衡的同时生成鲁棒反事实，并向用户保证最小鲁棒性。在表格数据集上的实证评估证实了我们所提方法的相关性与有效性。
引用
@article{arxiv.2304.12943,
title = {Generating robust counterfactual explanations},
author = {Victor Guyomard and Françoise Fessant and Thomas Guyet and Tassadit Bouadi and Alexandre Termier},
journal= {arXiv preprint arXiv:2304.12943},
year = {2023}
}