“我们为何这样做？”：伦理实践中的道德压力与情感体验
人机交互
2025-02-26 v1
摘要
已 developed 许多工具、检查清单和工作坊，以弥合 AI 伦理原则与实践之间的已知鸿沟。然而，此类干预对实践者的影响鲜有了解。我们在一个大型欧洲城市组织中进行了人类学调查，该组织开发并试图将伦理工具整合到城市运营中。我们发现，技术团队整合伦理工具后，会扰乱其边界、角色和关于责任与决策的授权范围。这导致情感不适和脆弱感的感受，而这些感受既未被工具设计者 nor 组织所预料。我们借助道德压力（moral stress）的概念，认为这种情感体验是成功整合伦理工具至技术实践中的核心挑战。即便在最理想的情况下，组织结构也无法应对试图实施负责任技术发展实践所导致的道德压力。
引用
@article{arxiv.2502.18395,
title = {"Why do we do this?": Moral Stress and the Affective Experience of Ethics in Practice},
author = {Sonja Rattay and Ville Vakkuri and Marco Rozendaal and Irina Shklovski},
journal= {arXiv preprint arXiv:2502.18395},
year = {2025}
}
备注
In CHI Conference on Human Factors in Computing Systems. ACM, New York, NY, USA (2025)