面向 AI 系统人类监督的道德练习：来自三项试验的洞见
计算机与社会
2025-05-23 v1 人工智能
摘要
本文阐述了道德练习作为帮助 AI 行动者培养能够有效监督 AI 系统的美德的概念。我们探讨了道德练习的概念框架和意义，将其置于哲学论述、古代实践和当代 AI 伦理学术猛瞧之中。我们概述了道德练习方法论的核心支柱——激发投入的个人 disposition、培养关系性理解和培养 technomoral 智慧——并强调其对 AI 系统人类监督的关键活动和能力的相关性。我们的论点得到来自三项试验的支持，这些试验涉及一家公司、一组跨学科的 AI 研究人员以及高等教育学生。这些研究使我们能够探讨道德练习的潜力与局限性。基于收集的数据，我们提供了关于如何在组织内部培养负责任的 AI 文化的见解，并为未来研究指出了方向。
引用
@article{arxiv.2505.15851,
title = {Exploring Moral Exercises for Human Oversight of AI systems: Insights from Three Pilot Studies},
author = {Silvia Crafa and Teresa Scantamburlo},
journal= {arXiv preprint arXiv:2505.15851},
year = {2025}
}