实践中的 AI 公平性
计算机与社会
2024-03-25 v1 人工智能
人机交互
摘要
就一个被广泛接受的 AI 公平性定义达成共识，长期以来一直是 AI 伦理和治理中的核心挑战。全社会对于公平性的含义以及如何最好地将其付诸实践存在广泛的观点。在本工作手册中，我们通过探索如何以基于语境和以社会为中心的方法来理解 AI 公平性，从而应对这一挑战，这有助于项目团队更好地识别、缓解和管理不公平偏见和歧视在 AI 项目工作流中可能出现的多种方式。我们首先探讨，尽管对公平性含义的理解存在多样性，但平等和不歧视的优先事项如何构成了其作为实用原则应用的广泛接受的核心。我们重点关注这些优先事项如何体现为免受直接和间接歧视以及歧视性骚扰的平等保护。这些要素构成了伦理和法律标准，基于此可以在 AI 项目工作流中识别和缓解不公平偏见和歧视的实例。然后，我们深入探讨 AI 项目生命周期的不同语境如何引发不同的公平性关注。这使我们能够识别几种类型的 AI 公平性（数据公平性、应用公平性、模型设计与开发公平性、基于指标的公平性、系统实现公平性和生态系统公平性），这些构成了偏见识别、缓解和管理的多视角方法的基础。在此基础上，我们讨论了如何通过偏见自我评估和偏见风险管理，以及在公平性立场声明中记录基于指标的公平性标准，将 AI 公平性原则在 AI 项目工作流中付诸实践。
引用
@article{arxiv.2403.14636,
title = {AI Fairness in Practice},
author = {David Leslie and Cami Rincon and Morgan Briggs and Antonella Perini and Smera Jayadeva and Ann Borda and SJ Bennett and Christopher Burr and Mhairi Aitken and Michael Katell and Claudia Fischer and Janis Wong and Ismael Kherroubi Garcia},
journal= {arXiv preprint arXiv:2403.14636},
year = {2024}
}