通过对抗样本视角探究反事实解释：理论与实证分析
机器学习
2022-12-16 v2 人工智能
摘要
随着机器学习（ML）模型在高风险应用中部署日益广泛，反事实解释已成为实践中提供可操作模型解释的关键工具。尽管反事实解释愈发流行，对其的深入理解仍显不足。本文中，我们通过对抗样本的视角系统分析反事实解释。为此，我们形式化了流行的反事实解释与对抗样本生成方法之间的相似性，识别出二者等价的条件。继而推导出反事实解释与对抗样本生成方法所输出解之间距离的上界，并在多个真实数据集上加以验证。通过确立反事实解释与对抗样本间的这些理论与实证相似性，我们的工作对现有反事实解释算法的设计与开发提出了根本性疑问。
引用
@article{arxiv.2106.09992,
title = {Exploring Counterfactual Explanations Through the Lens of Adversarial Examples: A Theoretical and Empirical Analysis},
author = {Martin Pawelczyk and Chirag Agarwal and Shalmali Joshi and Sohini Upadhyay and Himabindu Lakkaraju},
journal= {arXiv preprint arXiv:2106.09992},
year = {2022}
}