面向 Deepfake 检测的可解释 AI 方法的定量评估

在本文中，我们提出了一个新框架，用于评估解释方法在 deepfake 检测器决策上的性能。该框架通过检查能否通过一组对抗攻击修改这些区域以翻转检测器的预测或降低其初始预测，来评估解释方法识别假图像中对 deepfake 检测器决策影响最大的区域的能力；我们预期，对于能更准确识别这些区域的方法，deepfake 检测的准确率和预测将出现更大的下降。基于该框架，我们使用在 FaceForensics++ 数据集上训练的最先进的 deepfake 检测模型以及文献中的五种解释方法进行了比较研究。我们定量和定性评估的结果记录了 LIME 解释方法相对于其他比较方法的优越性能，并表明该方法最适合用于解释所使用的 deepfake 检测器的决策。