利益相关者参与负责任AI开发：指导原则与当前实践之间的脱节
软件工程
2025-06-12 v1 人工智能
人机交互
摘要
负责任AI（rAI）指导原则日益推动AI开发过程中的利益相关者参与（SHI）。与此同时，SHI在商业软件开发中已经普遍存在，但关注点可能不同。本研究澄清了既有的SHI实践在多大程度上能够促进rAI工作，以及潜在的脱节——这些关键洞察有助于为未来的干预措施提供信息并加以调整，以进一步推动行业实践向rAI努力转变。首先，我们分析了56份rAI指导文件，以识别推荐SHI的原因（即其对rAI的预期益处），并发现了诸如权力再分配、改善社会技术理解、预判风险和增强公众监督等目标。为了理解SHI在商业环境中为何以及如何被实践，我们随后对AI从业者进行了在线调查（n=130）和半结构化访谈（n=10）。我们的发现表明，实践中的SHI主要由商业优先事项（如客户价值、合规性）驱动，若干因素目前阻碍了更多与rAI对齐的SHI实践。这表明既有的SHI实践在很大程度上并未对rAI工作做出贡献。为解决这一脱节，我们提出了干预措施和研究机会，以推进实践中的rAI开发。
引用
@article{arxiv.2506.09873,
title = {Stakeholder Participation for Responsible AI Development: Disconnects Between Guidance and Current Practice},
author = {Emma Kallina and Thomas Bohné and Jat Singh},
journal= {arXiv preprint arXiv:2506.09873},
year = {2025}
}
备注
Published at the 2025 ACM Conference on Fairness, Accountability, and Transparency FAccT'25