人工智能供应链中错位的问责:模块化与开发者的责任观念
计算机与社会
2023-06-22 v3 人机交互
软件工程
摘要
负责任的人工智能指南要求工程师考虑其系统可能造成的危害。然而,当代人工智能系统是通过组合许多 preexisting 软件模块构建的,这些模块在成为成品或服务之前经过许多人之手。这如何塑造负责任的人工智能实践?在对工业界、开源和学术界的 27 名人工智能工程师的访谈中,我们的参与者通常并不认为负责任的人工智能指南中所提出的问题在其能力、职权或责任范围内可以解决。我们使用 Suchman 的“定位问责”来展示负责任的人工智能劳动目前是如何组织的,并探讨如何以不同方式完成。我们确定了跨切的社会逻辑,如模块化、规模、声誉和客户导向,这些逻辑组织了哪些负责任的人工智能行动确实发生,哪些被分配给低地位员工,或被认为是想象中“供应链”中下一个人或前一个人的工作。我们认为,当前的负责任人工智能干预措施,如假设对系统具有全景式知识和控制的伦理清单和指南,可以通过采用定位问责方法加以改进,认识到关系和义务如何在该供应链内外交织。
引用
@article{arxiv.2209.09780,
title = {Dislocated Accountabilities in the AI Supply Chain: Modularity and Developers' Notions of Responsibility},
author = {David Gray Widder and Dawn Nafus},
journal= {arXiv preprint arXiv:2209.09780},
year = {2023}
}
备注
Keywords: Modularity, software engineering, supply chain, artificial intelligence, ethics, located accountability