人脸识别与混淆系统的公平性性质
计算机视觉与模式识别
2022-09-19 v3 人工智能
摘要
自动化人脸识别在商业与政府部门的泛滥引发了个人严重的隐私担忧。解决这些隐私担忧的一种方法是针对驱动人脸识别系统的度量嵌入网络实施规避攻击：人脸混淆系统生成难以察觉的扰动图像，使人脸识别系统误识别用户。扰动人脸是在度量嵌入网络上生成的，而已知此类网络在人脸识别情境下存在不公平性。一个关于人口统计公平性的自然问题随之而来：人脸混淆系统性能是否存在人口统计差异？我们通过分析与实证探索近期的人脸混淆系统来回答这一问题。研究发现度量嵌入网络具有人口统计感知性：人脸嵌入按人口统计属性聚类。我们展示了这种聚类行为如何导致少数群体人脸的混淆效用降低。一个直观的分析模型对这些现象提供了洞见。
引用
@article{arxiv.2108.02707,
title = {Fairness Properties of Face Recognition and Obfuscation Systems},
author = {Harrison Rosenberg and Brian Tang and Kassem Fawaz and Somesh Jha},
journal= {arXiv preprint arXiv:2108.02707},
year = {2022}
}