双重效应原则的自动化

双重效应原则($\mathcal{DDE}$)是一条长期研究的伦理原则，规定了何时允许具有积极与消极双重效应的行动。本文的目标是使$\mathcal{DDE}$自动化。我们简要介绍$\mathcal{DDE}$，并使用一阶模态逻辑——义务认知事件演算——作为形式化该原则的框架。我们给出了该原则逐渐增强版本的形式化，包括所谓的双重三重效应原则。随后我们利用我们的框架成功模拟了用于测试人类受试者中该原则存在的场景。我们的框架可用于两种不同模式：一是从中构建符合$\mathcal{DDE}$的自治系统，二是通过在现有系统或模型上应用$\mathcal{DDE}$层来验证给定AI系统是否符合$\mathcal{DDE}$。对于后一种模式，底层AI系统可使用任何架构（规划器、深度神经网络、贝叶斯网络、知识表示系统或混合架构）构建；只要系统在其模型中暴露若干参数，此类验证即可进行。此处$\mathcal{DDE}$层的角色类似于检查现有软件模块的（动态或静态）软件验证器。最后，我们展示了将$\mathcal{DDE}$层应用于STRIPS风格规划模型及改进的POMDP模型的初步工作。这是说明第二种模式可行性的初步工作，我们希望这些初步构想能有助于其他研究者在自身框架中纳入DDE。