Two-Face：商用人脸识别系统的对抗性审计
计算机视觉与模式识别
2021-11-18 v1
摘要
自动化人脸检测等计算机视觉应用被用于多种目的，从解锁智能设备到追踪潜在的监控关注人员。对这些应用的审计揭示其往往对少数群体存在偏见，导致不公平且令人担忧的社会与政治后果。尽管随时间推移已有多项研究，这些偏见并未被完全缓解，事实上在诸如年龄预测等特定任务上甚至有所加剧。虽然此类系统已在基准数据集上接受审计，但评估其对对抗性输入的鲁棒性变得必要。在本工作中，我们对多个系统与数据集进行了广泛的对抗性审计，得出若干令人担忧的观察——自先前审计以来，在CELEBSET数据集上某些任务的准确率出现下降。尽管在多个数据集上针对少数群体个体的准确率偏见依然存在，但更令人忧虑的观察是，这些偏见在面向少数群体的对抗性输入下变得异常显著。我们以基于这些观察的更广泛社会影响讨论以及关于如何共同应对此问题的一些建议作为结语。
引用
@article{arxiv.2111.09137,
title = {Two-Face: Adversarial Audit of Commercial Face Recognition Systems},
author = {Siddharth D Jaiswal and Karthikeya Duggirala and Abhisek Dash and Animesh Mukherjee},
journal= {arXiv preprint arXiv:2111.09137},
year = {2021}
}
备注
This work has been accepted for publication at ICWSM 2022