向我解释：基于显著性的合成人脸检测模型可解释性
计算机视觉与模式识别
2023-03-28 v2
摘要
在过去十年中，卷积神经网络的性能持续提升。与此同时，随着模型复杂度增长，解释模型决策变得愈发困难。此类解释对于人机配对系统的可靠运行，或在众多精度相当的模型中确定“最佳”模型时的模型选择可能至关重要。显著图通过高亮模型在预测时认为重要的图像区域，成为一种流行的解释模型决策的方式。然而，大规模检视显著图并不现实。本文提出五种利用模型显著性大规模解释模型行为的新方法。这些方法探讨：(a)模型显著图的平均熵为何，(b)当输入分布外样本时模型显著性如何变化，(c)模型显著性在多大程度上遵循几何变换，(d)独立训练轮次间模型显著性的稳定性如何，以及(e)模型显著性对显著性引导的图像退化的反应如何。为在具体且热门的问题上评估所提度量，我们针对合成人脸检测任务开展了一系列实验，使用两类模型：传统以交叉熵损失训练的模型，以及训练时以人类显著性引导以提升模型泛化能力的模型。这两类模型以其显著图的不同、可解释特性为特征，从而得以评估所提度量的正确性。我们随本文提供了各度量的源代码。
引用
@article{arxiv.2303.11969,
title = {Explain To Me: Salience-Based Explainability for Synthetic Face Detection Models},
author = {Colton Crum and Patrick Tinsley and Aidan Boyd and Jacob Piland and Christopher Sweet and Timothy Kelley and Kevin Bowyer and Adam Czajka},
journal= {arXiv preprint arXiv:2303.11969},
year = {2023}
}
备注
13 pages, 10 figures