超越二进制道德判断：AI 中的伦理复数主义建模

社会重大决策日益涉及 AI 系统以各种能力参与。尽管自治系统愈发普遍，但大多数处理自治道德决策的方法仍采用标量或二进制判断。这些方法在可接受的道德推理方面不足，因为它们提供的解释有限，缺少必须包含以支持问责的必需的情境和理论信息。为此，我们提出一个框架来建模道德推理作为对规范伦理理论或伦理复数主义的分布。我们引入了一个规范伦理单纱形，将这些理论整合其中。我们还为 stacked ensemble 学习准备了一个包含 15 个细粒度子理论的 450 案例基准。这些案例描述了自然语言中的伦理困境并具有提取的上下文特征。通过 two-stream 规范-语义架构实现了该单纱形。这随后通过规范信息和顺序 stacking ensemble 的融合来学习三大理论的最佳匹配：后果主义、德性伦理和义务论，以及 15 个子类别。我们的实验表明，规范先验与语义嵌入的整合显著提高了分类性能，准确率达到 88.89%。我们进行了 ablation 研究，表明结构化伦理表示的贡献超出类比推理，所选的 stacking 架构由于逐步学习细粒度程度而给出最佳结果。通过熵、置信度和可视化分析了伦理复数主义。因此，将伦理复数主义建模为概率规范分布支持类人道德推理、伦理 disagreement 分析以及未来 AI 系统的对齐。