利用生成潜空间中的对比反事实解释图像分类器
计算机视觉与模式识别
2022-06-13 v1 人工智能
摘要
尽管现代复杂图像分类器具有高精度，但由于其未知的决策过程和潜在偏差，它们无法被信任用于敏感任务。反事实解释在为这些黑盒算法提供透明度方面非常有效。然而，生成能够对分类器输出产生一致影响同时又暴露可解释特征变化的反事实是一项极具挑战的任务。我们引入了一种新方法，利用预训练生成模型为图像分类器生成因果且可解释的反事实解释，无需任何重新训练或条件化。该技术中的生成模型不限于在与目标分类器相同的数据上训练。我们使用该框架获得对比与因果的充分性和必要性分数，作为对黑盒分类器的全局解释。在人脸属性分类任务上，我们通过提供因果和对比特征归因以及相应的反事实图像，展示了不同属性如何影响分类器输出。
引用
@article{arxiv.2206.05257,
title = {Explaining Image Classifiers Using Contrastive Counterfactuals in Generative Latent Spaces},
author = {Kamran Alipour and Aditya Lahiri and Ehsan Adeli and Babak Salimi and Michael Pazzani},
journal= {arXiv preprint arXiv:2206.05257},
year = {2022}
}