面向用户的 AI 伦理方法：跨文化与跨情境中伦理原则的偏好
人机交互
2025-09-18 v2
摘要
随着 AI 系统日益渗透日常生活，设计师和开发者面临日益增加的压力，需在创新与伦理设计选择之间进行平衡。迄今为止，AI 伦理的实施主要依赖于规定应嵌入 AI 系统中哪些伦理原则的框架。然而，用户对这些原则的重视程度在现有文献中仍然鲜有探讨。我们进行了一次在四个国家进行的离散选择实验，量化了用户对 11 项伦理原则的偏好。我们的发现表明，尽管用户通常优先考虑隐私、公正与公正，以及透明度，但他们的偏好基于文化和应用情境存在显著差异。潜在类分析进一步揭示了四个不同的用户群体，其中最大的一群是伦理疏离的，倾向于依赖监管监督。我们的发现提供了（1）用户对 AI 伦理原则不均衡优先级的实证证据，（2）针对文化和情境进行伦理实施的可操作指导，（3）支持开发健全监管机制，以及（4）建立以用户为中心的 AI 伦理方法的基础，该方法独立于抽象道德理论。
引用
@article{arxiv.2508.11327,
title = {The User-first Approach to AI Ethics: Preferences for Ethical Principles in AI Systems across Cultures and Contexts},
author = {Benjamin J. Carroll and Jianlong Zhou and Paul F. Burke and Sabine Ammon},
journal= {arXiv preprint arXiv:2508.11327},
year = {2025}
}