产品经理对生成式 AI 的负责任使用:伦理原则与实践的重新耦合
计算机与社会
2025-01-29 v1
摘要
自 2022 年以来,生成式 AI (genAI) 迅速融入工作场所。尽管组织已承诺“负责任地”使用这项技术,但组织及其员工如何在决策中优先考虑责任,在现有的管理理论中仍属空白。在本文中,我们研究了产品经理——他们通常在决策过程中充当把关人——在使用 genAI 时如何在其日常工作中实施负责任的做法。利用制度理论,我们阐明了制约或支持 genAI 技术主动负责任开发与使用的因素。我们采用混合方法研究设计,基于对产品经理的 25 次访谈以及对产品管理相关职位 300 名受访者的全球调查。我们的大多数受访者报告了:(1) 关于“责任”含义或表现形式的普遍不确定性;(2) 由于假定其他团队会采取伦理行动而导致的责任分散;(3) 组织内部缺乏明确的激励和指导;以及 (4) 领导层支持与原则对于在伦理承诺与利润动机之间进行调和的重要性。然而,我们的研究发现,即使在高度不确定的环境中,在缺乏领导层指导的情况下,产品经理也可以通过寻找责任的“微时刻”来“重新耦合”伦理承诺与实践。产品经理寻找他们可以在没有高层管理者明确支持的情况下采取的低风险、小规模行动,例如个人或全团队范围的检查与审查以及数据保护标准。我们的研究强调了 genAI 如何给试图耦合伦理原则与日常实践的组织带来独特挑战,以及中层管理在重新耦合两者方面所能发挥的作用。
引用
@article{arxiv.2501.16531,
title = {Responsible Generative AI Use by Product Managers: Recoupling Ethical Principles and Practices},
author = {Genevieve Smith and Natalia Luka and Merrick Osborne and Brian Lattimore and Jessica Newman and Brandie Nonnecke and Brent Mittelstadt},
journal= {arXiv preprint arXiv:2501.16531},
year = {2025}
}
备注
41 pages, 2 tables, 2 figures