理解人脸识别技术中的偏见

在过去几年中，围绕自动化人脸识别日益增长的争论已达到沸点。随着开发者持续迅速将这些技术扩展至几乎无限的应用范围，批评声音愈发强烈，警示此类系统扩散所带来的有害影响。反对者认为，人脸检测与识别技术（FDRTs）的不负责任设计与使用威胁侵犯公民自由、基本人权，并进一步固化结构性种族主义与系统性边缘化。他们还警告，人脸监控基础设施逐渐渗入生活经验的每个领域，可能最终摧毁长期以来提供个体繁荣、社会团结与人类自我建构珍贵手段的现代民主生活方式。相反，辩护者强调数字化 streamlined 的人脸识别、身份核验与特征刻画能力可带来的公共安全、安保与效率提升。在本解说中，我聚焦于该争论的一个核心方面：偏见与歧视动态在 FDRTs 开发与部署中所起的作用。我考察历史歧视模式如何自最早时刻起便渗入 FDRTs 的设计与实现。并且，我阐释使用有偏见的 FDRTs 如何导致分配性与承认性不公。本解说以探讨围绕普遍人脸监控基础设施潜在扩散的更广泛伦理问题作结，并就培育更负责任的这些技术开发与治理方法提出若干建议。