高斯判别变分自编码器(GdVAE): 具备反事实解释的自解释模型
计算机视觉与模式识别
2024-09-20 v1 机器学习
摘要
视觉反事实解释(CF)方法通过修改图像概念(如形状)来改变预测至预定义结果，同时与原始查询图像紧密相似。与自解释模型(SEMs)和热图技术不同，它们赋予用户检验"假设情境"的能力。先前的CF方法要么涉及后置训练，限制了透明度与CF质量之间的平衡，要么在推理时需要优化。为弥合透明SEM与CF方法之间的差距，我们引入GdVAE，一种基于条件变分自编码器(CVAE)的自解释模型，特点是具备高斯判别分析(GDA)分类器和集成CF解释。通过利用类特定原型实现下游任务的生成式分类器，以及在潜空间中提供闭形式CF解，实现了完全透明度。通过对潜空间进行正则化以提高CF的一致性。大量与现有方法的比较确认了本方法在产生高质量CF解释方面的有效性，同时保持透明度。代码和模型已公开。
引用
@article{arxiv.2409.12952,
title = {The Gaussian Discriminant Variational Autoencoder (GdVAE): A Self-Explainable Model with Counterfactual Explanations},
author = {Anselm Haselhoff and Kevin Trelenberg and Fabian Küppers and Jonas Schneider},
journal= {arXiv preprint arXiv:2409.12952},
year = {2024}
}
备注
Accepted paper at the ECCV 2024