Focused LRP：面向人脸变形攻击检测的可解释AI
计算机视觉与模式识别
2021-03-30 v1 密码学与安全
机器学习
摘要
检测变形人脸图像的任务近年来变得高度相关，以确保基于人脸图像的自动验证系统（例如自动边境控制闸机）的安全性。基于深度神经网络（DNN）的检测方法已被证明对此非常适用。然而，它们不提供决策过程的透明度，且不清楚它们如何区分真实与变形人脸图像。这对于旨在辅助人类操作员（其应能理解推理过程）的系统尤为相关。在本文中，我们解决该问题并提出了Focused Layer-wise Relevance Propagation（FLRP，聚焦逐层相关性传播）。该框架在精确的像素级别向人类检查员解释，深度神经网络使用哪些图像区域来区分真实与变形人脸图像。此外，我们提出另一框架来客观分析我们方法的质量，并将FLRP与其他DNN可解释性方法比较。该评估框架基于移除检测到的伪影并分析这些变化对DNN决策的影响。特别是，当DNN对其决策不确定甚至错误时，FLRP在突出可见伪影方面表现远优于其他方法。
引用
@article{arxiv.2103.14697,
title = {Focused LRP: Explainable AI for Face Morphing Attack Detection},
author = {Clemens Seibold and Anna Hilsmann and Peter Eisert},
journal= {arXiv preprint arXiv:2103.14697},
year = {2021}
}
备注
Published at WACVW 2021