面向基于AI的人脸识别系统的综合视觉显著性解释框架

近年来，深度卷积神经网络在用于验证和识别的人脸识别技术领域取得了显著进展。尽管准确率惊人，但这些神经网络常因缺乏可解释性而受到批评。对于理解基于AI的人脸识别系统的决策过程的需求日益增长。一些研究探索了使用视觉显著性图作为解释，但它们主要关注特定的人脸验证情况。关于更通用的人脸识别场景以及这些解释的相应评估方法的讨论，在当前研究中长期缺失。因此，本文构思了一个面向人脸识别任务的综合解释框架。首先，针对基于AI的人脸识别系统，提供了基于视觉显著性图的解释的详尽定义，分别考虑了两种最常见的识别情况，即人脸验证和人脸识别。其次，提出了一种新的模型无关的解释方法CorrRISE，用于生成显著性图，该图揭示了任意给定人脸图像之间的相似和相异区域。随后，该解释框架构思了一种新的评估方法，能够对通用视觉显著性解释方法在人脸识别中的性能进行定量测量和比较。因此，我们在多个验证和识别场景上进行了大量实验。结果表明，CorrRISE生成了富有洞察力的显著性图，并展现出优越的性能，特别是在相似性图方面，与最先进的解释方法相比表现更佳。