评估 AI 系统的公平性: AI 从业者的流程、挑战与支持需求
人工智能
2022-02-14 v2 计算机与社会
人机交互
摘要
各种工具与实践已被开发出来,以支持从业者识别、评估和缓解 AI 系统造成的与公平性相关的危害。然而,先前的研究强调了这些工具与实践的预期设计与其在特定情境中使用之间的差距,包括由组织因素在塑造公平性工作中所起作用而引起的差距。在本文中,我们针对其中一种实践——旨在揭示人口统计群体间性能差异的 AI 系统分组评估(disaggregated evaluations)——调查了这些差距。通过对来自三家科技公司十个团队的 33 名 AI 从业者进行半结构化访谈与结构化研讨会,我们识别了从业者在设计分组评估时的流程、挑战与支持需求。我们发现,从业者在选择性能度量、确定最相关的直接利益相关者与重点关注的人口统计群体,以及收集用于开展分组评估的数据集方面面临挑战。更一般地,我们识别了以下因素对公平性工作的影响:缺乏与直接利益相关者或领域专家的互动、将客户置于边缘化群体之上的业务优先事项,以及大规模部署 AI 系统的驱动力。
引用
@article{arxiv.2112.05675,
title = {Assessing the Fairness of AI Systems: AI Practitioners' Processes, Challenges, and Needs for Support},
author = {Michael Madaio and Lisa Egede and Hariharan Subramonyam and Jennifer Wortman Vaughan and Hanna Wallach},
journal= {arXiv preprint arXiv:2112.05675},
year = {2022}
}
备注
Camera-ready preprint of paper accepted to the CSCW conference