人脸分类卷积神经网络中像素级相关性的验证与泛化
计算机视觉与模式识别
2020-07-01 v1 机器学习
机器学习
摘要
随着卷积神经网络在科学、治理和更广泛社会中的人脸识别应用日益增多，迫切需要对能展示这些'黑盒'决策如何做出提供方法。为可被人类解释且有用，此类方法应以对随机初始化或输入数据中的伪相关具有鲁棒性的方式传达模型学到的分类策略。为此，我们应用分层相关性传播(LRP)的分解式像素级归因方法来解析多个为人脸识别训练的VGG-16模型的决策。随后我们量化了这些相关性度量如何随关键模型参数变化及跨参数泛化，例如预训练数据集(ImageNet或VGGFace)、微调任务(性别或身份分类)以及模型权重的随机初始化。利用基于相关性的图像掩蔽，我们发现人脸分类的相关性图在随机初始化间总体稳定，且可跨微调任务泛化。然而，跨预训练数据集的泛化明显较少，表明即便ImageNet与VGGFace训练的模型取得相当高的分类性能，它们采样人脸信息的方式不同。跨模型的细粒度相关性图分析揭示了泛化中的不对称性，指向特定参数选择的益处，并提示或可能找到一组驱动卷积神经网络与任务决策的基础重要人脸图像像素。最后，我们将模型决策权重与人类相似性度量进行比较，提供了跨人与机器解释人脸识别决策的新框架。
引用
@article{arxiv.2006.16795,
title = {Validation and generalization of pixel-wise relevance in convolutional neural networks trained for face classification},
author = {Jñani Crawford and Eshed Margalit and Kalanit Grill-Spector and Sonia Poltoratski},
journal= {arXiv preprint arXiv:2006.16795},
year = {2020}
}
备注
10 pages, 7 figures