保全面子：审视人脸识别审计中的伦理关切
计算机与社会
2020-01-07 v1
摘要
尽管对于揭示偏见性表现至关重要，但出于善意的算法审计尝试可能产生损害这些举措旨在保护的人群的影响。在审计诸如人脸识别等生物识别系统时，这一关切尤为突出，因为数据具有敏感性，且该技术的使用方式常存在伦理争议。我们以审计商业人脸处理技术的特定案例展示了五项伦理关切，强调审计者需注意的额外设计考量与伦理张力，以免加剧或补充被审计系统所传播的伤害。我们进一步提供了这些关切的具体例证，并在结论中反思这些关切对算法审计角色的意义及其所揭示的产品的根本性局限。
引用
@article{arxiv.2001.00964,
title = {Saving Face: Investigating the Ethical Concerns of Facial Recognition Auditing},
author = {Inioluwa Deborah Raji and Timnit Gebru and Margaret Mitchell and Joy Buolamwini and Joonseok Lee and Emily Denton},
journal= {arXiv preprint arXiv:2001.00964},
year = {2020}
}
备注
Accepted to AAAI/ACM AI Ethics and Society conference 2020