为何我们要自动化道德决策？

虽然人们普遍信任 AI 在生活的 various aspects 做出决策，但当 AI 参与具有重大道德含义的决策时，人们会提出担忧。由于缺乏精确的数学框架来进行道德推理，这些担忧进一步加剧，因为伦理往往违背简化的数学模型。与逻辑推理、不确定性推理和战略决策等领域相比，后者拥有明确定义的数学框架，而道德推理却缺乏广泛接受的框架。这一缺失引出了我们能对 AI 的道德决策能力置信何种程度的问题。当今 AI 系统所处的训练环境似乎不足以让系统从头学习伦理，即使我们拥有合适的环境，也不清楚我们如何实现这种学习。另一种方法是 AI 从人类道德决策中学习。这一学习过程可以涉及聚合特定领域中精选的人类判断或演示，或利用接受广泛数据输入的基础模型。尽管如此，鉴于人类道德决策的不完美，仍存疑虑。鉴于此，为何我们要自动化道德决策——不如让人类来做所有道德决策呢？本文阐述了我们应期待 AI 系统参与具有道德组成部分的决策的若干原因，并简要讨论其相关风险。