用于识别后门人脸识别网络的可物理实现触发器
计算机视觉与模式识别
2025-06-25 v1 密码学与安全
机器学习
摘要
后门攻击将隐藏功能嵌入深度神经网络，当输入中包含预定模式的触发器时，网络会显示异常行为，而在其他情况下表现正常于公共测试数据。最近的研究表明，后门人脸识别（face recognition, FR）系统可以对外观自然的触发器（如特定的太阳镜）作出响应。此类攻击构成严重威胁，挑战人脸识别系统在高安全应用中的可行性。我们提出了一种新方法，用于（1）检测人脸识别网络是否搭载自然物理可实现触发器，（2）在给定受损网络的情况下识别此类触发器。我们通过一个被破坏的人脸识别网络演示了我们方法的有效性，在该网络中，我们能够以74% 的Top-5准确率识别触发器（例如绿色太阳镜或红色帽子），而朴素的暴力基线仅实现56% 的准确率。
引用
@article{arxiv.2506.19533,
title = {Identifying Physically Realizable Triggers for Backdoored Face Recognition Networks},
author = {Ankita Raj and Ambar Pal and Chetan Arora},
journal= {arXiv preprint arXiv:2506.19533},
year = {2025}
}
备注
Accepted to ICIP 2021