基于生成模型的微分同胚反事实
机器学习
2022-06-17 v2 人工智能
摘要
反事实能以人类可解释的方式解释神经网络的分类决策。我们提出一种简单而有效的方法来生成此类反事实。更具体地，我们执行一个合适的微分同胚坐标变换，然后在这些坐标中执行梯度上升，以找到被高度确信地分类为指定目标类的反事实。我们提出两种方法利用生成模型来构造此类合适的、精确或近似微分同胚的坐标系。我们使用黎曼微分几何从理论上分析生成过程，并使用各种定性与定量度量验证所生成反事实的质量。
引用
@article{arxiv.2206.05075,
title = {Diffeomorphic Counterfactuals with Generative Models},
author = {Ann-Kathrin Dombrowski and Jan E. Gerken and Klaus-Robert Müller and Pan Kessel},
journal= {arXiv preprint arXiv:2206.05075},
year = {2022}
}