规范显著图：解码深度人脸模型

随着用于人脸处理任务的深度神经网络模型接近类人性能，其在执法和门禁控制等关键应用中的部署有所增加，其中任何故障都可能产生深远影响。我们需要通过尽可能使已部署系统的工作透明化来建立对其的信任。现有的可视化算法是为物体识别设计的，当应用于人脸领域时不能给出有洞察力的结果。在这项工作中，我们提出“规范显著图”，一种通过将显著图投影到规范人脸模型上来突出相关面部区域的新方法。我们提出了两类规范显著图：图像级图和模型级图。图像级图突出由深度人脸模型对给定图像做出决策所负责的面部特征，从而有助于理解DNN如何对该图像进行预测。模型级图提供对整个DNN模型在每项任务中关注点的理解，因此可用于检测模型中的偏差。我们的定性与定量结果表明了所提出的规范显著图的实用性，其可用于任何架构的深度人脸模型。