忠实反事实视觉解释 (FCVE)
计算机视觉与模式识别
2025-01-14 v1
摘要
深度学习模型在计算机视觉领域取得了显著进展，但其透明性和可解释性仍是挑战。可解释人工智能的发展有助于增进对这些模型的理解和性能。然而，现有技术常常难以提供非专家易于理解的令人信服的解释，无法准确识别模型的内在决策过程。为此，我们提出开发一种平衡 plausibility 与 faithfulness 的反事实解释 (CE) 模型。该模型通过对图像进行最小必要修改来生成易于理解的视觉解释，而不会改变像素数据。具体方法是识别模型学习的内部概念并对其进行过滤，从而产生合理的反事实解释。所提供的解释反映了模型的内部决策过程，从而确保了对模型的忠实性。
引用
@article{arxiv.2501.06841,
title = {Faithful Counterfactual Visual Explanations (FCVE)},
author = {Bismillah Khan and Syed Ali Tariq and Tehseen Zia and Muhammad Ahsan and David Windridge},
journal= {arXiv preprint arXiv:2501.06841},
year = {2025}
}