基于扩散模型的视觉反事实解释——迈向系统性定量评估
计算机视觉与模式识别
2023-08-14 v1 机器学习
摘要
最新的视觉反事实解释（VCE）方法利用深度生成模型的强大能力，合成出质量令人印象深刻的高维图像新样本。然而，目前难以比较这些VCE方法的性能，因为评估流程差异很大，且往往归结为对单个样本的视觉检查和小规模用户研究。在这项工作中，我们提出了一个用于VCE方法系统性定量评估的框架以及一组应使用的最小度量集合。我们使用该框架探究了最新基于扩散的生成模型在自然图像分类（ImageNet）的VCE中的若干关键设计选择的影响。我们进行了一系列类消融实验，为一组具有不同复杂度、准确率和鲁棒性的分类器生成了数千个VCE。我们的发现为VCE方法的未来进展与改进指明了多个方向。通过共享我们的方法论以及我们在有限硬件配置下应对此类研究计算挑战的方法（包括完整代码库），我们为该领域的研究人员提供了宝贵指导，促进了反事实解释评估的一致性与透明度。
引用
@article{arxiv.2308.06100,
title = {Diffusion-based Visual Counterfactual Explanations -- Towards Systematic Quantitative Evaluation},
author = {Philipp Vaeth and Alexander M. Fruehwald and Benjamin Paassen and Magda Gregorova},
journal= {arXiv preprint arXiv:2308.06100},
year = {2023}
}
备注
Accepted at the 5th International Workshop on eXplainable Knowledge Discovery in Data Mining @ ECML 2023