算法伦理：自主车辆义务的形式化与验证
人工智能
2021-05-07 v1
摘要
我们开发了一个用于自动推理自主信息物理系统（包括其社会与伦理义务）义务的的形式化框架。义务、许可与禁止不同于系统的任务，是指定先进的、自适应的配备 AI 的系统所必需的部分。它们需要专门的义务逻辑来形式化。大多数现有的义务逻辑缺乏允许自动验证的相应算法与系统模型。我们展示了特定的义务逻辑——优势行为功利主义（Dominance Act Utilitarianism, DAU）——如何成为形式化诸如自动驾驶汽车等自主系统义务的合适起点。我们通过将责任敏感安全（Responsibility-Sensitive Safety, RSS）的一个子集在 DAU 中形式化来展示其有用性；RSS 是关于自动驾驶汽车在交通中应当如何以及不应当如何行为的一项工业提案。我们表明 RSS 的某些逻辑推论是不合意的，表明有必要进一步精炼该提案。我们还展示了义务如何随时间变化，这对于长期自主性而言是必要的。随后我们展示了一种在加权转移系统上针对 DAU 公式的模型检测算法，并通过文献中一个自动驾驶汽车控制器的义务模型检测加以说明。
引用
@article{arxiv.2105.02851,
title = {Algorithmic Ethics: Formalization and Verification of Autonomous Vehicle Obligations},
author = {Colin Shea-Blymyer and Houssam Abbas},
journal= {arXiv preprint arXiv:2105.02851},
year = {2021}
}
备注
To be published in ACT Transactions on Cyber-Physical Systems Special Issue on Artificial Intelligence and Cyber-Physical Systems. arXiv admin note: text overlap with arXiv:2009.00738