产业实践中围绕 AI 公平性的跨职能协作：实践与机遇探究
人机交互
2023-06-13 v1 计算机与社会
机器学习
摘要
新兴研究表明，无效的跨职能协作——即产业从业者跨角色开展的跨学科工作——是应对 AI 设计与开发中公平性问题的主要障碍。在本研究中，我们力求更好地理解从业者当前为落实 AI 公平性跨职能协作所采用的实践与策略，以识别支持更有效协作的机遇。我们对来自 17 家公司的 23 名涵盖各类角色的产业从业者开展了一系列访谈与设计工作坊。我们发现从业者通过桥接工作来克服围绕 AI 公平性在理解、情境化与评估方面的跨角色摩擦。此外，在缺乏公平性工作资源与激励的组织情境中，从业者常搭便车于现有要求（如隐私评估）与 AI 开发规范（如定量评估指标的使用），尽管他们担忧这些策略可能在根本上被损害。最后，我们关注从业者为落实公平性跨学科协作而在桥接与搭便车工作中承担的隐形劳动。文末我们讨论了 FAccT 研究者与 AI 从业者双方更好地支持 AI 系统设计与开发中公平性跨职能协作的机遇。
引用
@article{arxiv.2306.06542,
title = {Investigating Practices and Opportunities for Cross-functional Collaboration around AI Fairness in Industry Practice},
author = {Wesley Hanwen Deng and Nur Yildirim and Monica Chang and Motahhare Eslami and Ken Holstein and Michael Madaio},
journal= {arXiv preprint arXiv:2306.06542},
year = {2023}
}
备注
In Proceedings of the 2023 ACM Conference on Fairness, Accountability, and Transparency (FAccT '23)