从制度化行业 AI 伦理治理到产品影响：最小可行伦理
人机交互
2024-09-12 v1 计算机与社会
摘要
在科技行业，许多公司已表达了对 AI 伦理的承诺并创建了专门负责将高层伦理原则转化为产品的角色。然而，这在导致有意义的产品变更方面效果如何尚不明确。通过对 26 名从事 AI 伦理工作的专业人士进行半结构化访谈，我们揭示了在制度化伦理工作及其转化为产品影响方面的挑战与策略。我们最终发现，AI 伦理专业人士非常敏捷和机会主义，因为他们试图在传统权力有限的企业环境中创建标准化和可重用的流程和工具。在与产品团队的谈判中，他们面临由于缺乏对产品的权威和所有权而根植于挑战的挑战，但可以通过利用监管响应和将伦理视为产品质量保证的叙事来推进伦理工作。然而，这一策略导致我们拥有最小可行伦理，一种狭窄范围的行业 AI 伦理，其解决规范问题的能力有限，仅限于合规或产品质量。潜在的未来监管可能有助于弥合这一差距。
引用
@article{arxiv.2409.06926,
title = {Minimum Viable Ethics: From Institutionalizing Industry AI Governance to Product Impact},
author = {Archana Ahlawat and Amy Winecoff and Jonathan Mayer},
journal= {arXiv preprint arXiv:2409.06926},
year = {2024}
}