关于人脸识别算法抵御攻击与偏见的鲁棒性
计算机视觉与模式识别
2020-02-10 v1
摘要
人脸识别算法已展现出极高的识别性能，表明其适用于现实世界应用。尽管准确率有所提升，这些算法抵御攻击与偏见的鲁棒性仍受到质疑。本文总结了人脸识别算法鲁棒性受到挑战的不同方式，这些方式会严重影响其预期工作。讨论了各类攻击，如物理呈现攻击、伪装/化妆、数字对抗攻击以及利用 GAN 的变形/篡改。我们也讨论了偏见对人脸识别模型的影响，并展示年龄与性别差异等因素会影响现代算法的性能。本文还给出了这些挑战的潜在原因，以及提升人脸识别模型鲁棒性的一些未来研究方向。
引用
@article{arxiv.2002.02942,
title = {On the Robustness of Face Recognition Algorithms Against Attacks and Bias},
author = {Richa Singh and Akshay Agarwal and Maneet Singh and Shruti Nagpal and Mayank Vatsa},
journal= {arXiv preprint arXiv:2002.02942},
year = {2020}
}
备注
Accepted in Senior Member Track, AAAI2020