与机器人玩归责游戏

最近的研究——有些令人惊讶地——表明，当人们受到 AI 驱动系统造成的伤害时，愿意将道德归责归于这些系统[1]-[4]。在本文中，我们探讨这些发现背后的道德心理学基础。我们的假设是，人们之所以将道德归责归于 AI 系统，是因为他们认为这些系统能够具有可归罪的心理状态（法律上称为犯罪意图 mens rea）。为检验这一假设，我们构建了一个场景：一个 AI 系统因使用一种新型肥料而存在毒害人们的风险。在组间设计中操纵该 AI 系统的计算（或准认知）能力，我们测试了人们是否愿意将该 AI 系统对重大伤害风险（即鲁莽）的明知以及对它的归责归于其上。此外，我们研究了将鲁莽和归责归于 AI 系统是否会影响对该系统使用者（或所有者）的感知应受谴责程度。在一项有 347 名参与者的实验中，我们发现（i）人们愿意在鲁莽情境下将归责归于 AI 系统，（ii）归责归因强烈依赖于归予鲁莽的意愿，而（iii）后者又依赖于系统被感知的“认知”能力。此外，我们的结果提示（iv）AI 系统的计算复杂程度越高，归责就越从人类使用者转移到 AI 系统。