Mask-up：探究戴口罩场景下人脸重识别的偏差
计算机视觉与模式识别
2024-02-22 v1 人工智能
计算机与社会
人机交互
摘要
基于 AI 的人脸识别系统（FRSs）现已作为 MLaaS 解决方案在全球范围内广泛部署，尤其是在 COVID-19 疫情之后，其任务涵盖从购买 SIM 卡时验证个人人脸到公民监控。已有广泛报道指出这些系统对边缘化群体存在偏差，并导致了高度歧视性的结果。后疫情时代已将佩戴口罩常态化，但 FRSs 未能跟上时代的变化。因此，这些系统极易受到基于口罩的人脸遮挡的影响。在本研究中，我们审计了 4 个商业和 9 个开源 FRSs，在 5 个基准数据集（共 14,722 张图像）上执行不同类型戴口罩与未戴口罩图像间的人脸重识别任务。这些数据集模拟了全球所有主要国家部署的现实验证/监控任务。其中 3 个商业和 5 个开源 FRSs 极不准确；它们进一步加剧了对非白人个体的偏差，最低准确率为 0%。针对同一任务，一项有 85 名人类参与者参与的调查也仅得到 40% 的低准确率。因此，正如文献中经常假设的那样，流程中引入人在回路审核并不能缓解这些担忧。我们的大规模研究表明，此类服务的开发者、立法者和用户需要重新思考 FRSs 背后的设计原则，特别是在人脸重识别任务上，应认识到所观察到的偏差。
引用
@article{arxiv.2402.13771,
title = {Mask-up: Investigating Biases in Face Re-identification for Masked Faces},
author = {Siddharth D Jaiswal and Ankit Kr. Verma and Animesh Mukherjee},
journal= {arXiv preprint arXiv:2402.13771},
year = {2024}
}
备注
This work has been submitted to the IEEE for possible publication