Jiminy 顾问：基于规范与论证的利益相关者道德协议

自主系统由制造商构建，在受规范与法律约束的社会中运行，并与终端用户交互。所有这些参与者都是受自主系统行为影响的利益相关者。我们探讨了如何将此类利益相关者的伦理观点整合进自主系统的行为这一挑战。我们提出了一种称为 Jiminy 的伦理推荐组件，它利用规范系统与形式化论证中的技术来达成利益相关者之间的道德协议。Jiminy 通过使用规范系统来表示每个利益相关者的伦理观点，并具有三种解决涉及利益相关者意见的道德困境的方式。首先，Jiminy 考量利益相关者的论证彼此间如何关联，这可能已足以解决困境。其次，Jiminy 将利益相关者的规范系统加以组合，使得利益相关者的联合专长可解决困境。第三，且仅当前两种方法均失败时，Jiminy 使用上下文敏感规则来决定哪些利益相关者优先于其他方。在抽象层面上，这三种方法的特征分别为添加论证、添加论证间的攻击以及修正论证间的攻击。我们展示了 Jiminy 如何不仅可用于伦理推理与协作决策，还可用于提供关于伦理行为的解释。