全局反事实方向

尽管在生成视觉反事实解释的方法开发方面取得了越来越多的进展，尤其是随着去噪扩散概率模型的近期兴起，以往的工作仍将其视为一种完全局部的技术。在本工作中，我们迈出了将其全局化的第一步。具体而言，我们发现扩散自编码器的潜空间以全局方向的形式编码了给定分类器的推理过程。我们提出了一种新颖的基于代理的方法，该方法仅使用单张图像，以完全黑盒的方式发现两类这样的方向。确切地说，g-directions 允许在整个图像数据集上翻转给定分类器的决策，而 h-directions 进一步增加了解释的多样性。我们将它们统称为全局反事实方向。此外，我们表明 GCDs 可以自然地与潜积分梯度相结合，从而产生一种新的黑盒归因方法，同时增强对反事实解释的理解。我们在现有基准上验证了我们的方法，并表明其能够泛化到实际应用场景中。