重塑人脸识别中的信任：缓解人脸识别中的后门攻击以防止潜在隐私泄露
计算机视觉与模式识别
2022-02-22 v1 密码学与安全
机器学习
摘要
生物特征数据（如人脸图像）常与敏感信息（例如医疗、金融、个人政府记录）相关联。因此，存储此类信息的系统发生数据泄露可能带来灾难性后果。深度学习被广泛用于人脸识别（FR）；然而，此类模型易受恶意方发起的后门攻击。后门攻击使模型在识别时将特定类别误分类为目标类别。该漏洞可让攻击者访问受生物特征认证保护的高度敏感数据，或使恶意方冒充具有更高系统权限的个体。此类泄露构成严重的隐私威胁。先前方法将加噪机制集成到人脸识别模型中以缓解该问题并提升针对后门攻击的分类鲁棒性，但这会大幅影响模型精度。我们提出一种新颖且可泛化的方法（名为 BA-BAM：生物特征认证——后门攻击缓解），旨在通过迁移学习与选择性图像扰动来防止人脸认证深度学习模型上的后门攻击。实证表明，BA-BAM 具有高度鲁棒性，最高精度下降仅为 2.4%，同时将攻击成功率降至最高 20%。与现有方法的比较表明，BA-BAM 为人脸识别提供了更实用的后门缓解途径。
引用
@article{arxiv.2202.10320,
title = {Resurrecting Trust in Facial Recognition: Mitigating Backdoor Attacks in Face Recognition to Prevent Potential Privacy Breaches},
author = {Reena Zelenkova and Jack Swallow and M. A. P. Chamikara and Dongxi Liu and Mohan Baruwal Chhetri and Seyit Camtepe and Marthie Grobler and Mahathir Almashor},
journal= {arXiv preprint arXiv:2202.10320},
year = {2022}
}
备注
15 pages