人工智能能否体现道德价值？

中立论认为技术不能承载价值。这一长期存在的观点受到了批评，但反对中立论的许多论证都集中在传统的非智能技术上，如桥梁和剃刀。相比之下，人工智能是一种智能技术，越来越多地应用于医疗、金融和警务等高风险领域，其决策可能造成道德伤害。在本文中，我们认为人工智能，特别是自主决策以追求其目标的人工智能体，挑战了中立论。我们的核心主张是，支撑人工智能体的计算模型可以整合公平、诚实和避免伤害等道德价值的表征。我们提供了一个讨论中立论、价值观和人工智能的概念框架。此外，我们考察了两种设计道德计算模型的方法——人工良知和伦理提示——并提供了来自基于文本的游戏环境的实证证据，表明拥有此类模型的人工智能体比没有这些模型的智能体表现出更符合伦理的行为。这些发现支持人工智能可以体现道德价值，这与所有技术必然价值中立的说法相矛盾。