一种用于变形人脸检测的集成可解释AI（XAI）高效方法
计算机视觉与模式识别
2023-05-01 v1 人工智能
摘要
生物特征认证系统的广泛使用已引发攻击者/冒名者基于变形图像伪造用户身份。在此类攻击中，先生成合成图像并与真实图像合并，随后所得图像被用于认证。文献中已提出众多深度卷积架构用于人脸变形攻击检测（MADs），以防范此类攻击并降低相关风险。尽管深度学习模型在性能上取得了最优结果，但由于其本质上的黑盒/不透明性，难以理解与分析这些网络。因此，可能做出错误判断。然而，解释黑盒深度学习模型决策过程以用于生物特征呈现攻击检测（PADs）或MADs的文献十分匮乏，而这可帮助生物特征学界信任基于深度学习的生物特征系统，以用于边境管控、犯罪数据库建立等各类安全应用中的识别与认证。本工作中，我们提出了一种名为集成XAI的新型视觉解释方法，融合显著图、类激活图（CAM）与梯度类激活图（Grad-CAM），为我们所采用的深度学习预测模型（EfficientNet-B1）提供更全面的视觉解释，以预测呈现给生物特征认证系统的输入是变形还是真实图像。实验在三个公开数据集上进行，即Face Research Lab London Set、Wide Multi-Channel Presentation Attack（WMCA）与Makeup Induced Face Spoofing（MIFS）。实验评估证实，所得视觉解释突出了EfficientNet-B1在做决策时所关注的更细粒度图像特征/区域及相应推理依据。
引用
@article{arxiv.2304.14509,
title = {An Efficient Ensemble Explainable AI (XAI) Approach for Morphed Face Detection},
author = {Rudresh Dwivedi and Ritesh Kumar and Deepak Chopra and Pranay Kothari and Manjot Singh},
journal= {arXiv preprint arXiv:2304.14509},
year = {2023}
}