学习用于道德责任与责备的可处理概率模型
人工智能
2021-02-02 v3 机器学习
计算机科学中的逻辑
摘要
道德责任是自主系统中的一大关切，其应用范围从自动驾驶汽车到肾脏交换。尽管近来已有将责任与责备及类似概念形式化的尝试，但这些形式体系内的学习问题尚未得到解决。从此类系统的视角看，紧迫的问题是：（a）如何能从数据中自动提取并学习道德情境与应受责备的模型？（b）面对某些系统所面临的瞬息决策点，如何能有效且高效地计算判断？通过构建于受限可处理概率学习之上，我们提出并实现了一种混合（介于数据驱动与基于规则的方法之间）学习框架，用于从数据中自动归纳此类情境的模型并从中可处理地推理。我们报告了将我们的系统与人类判断在三个说明性领域——肺癌分期、团队管理和电车难题——中进行比较的实验。
引用
@article{arxiv.1810.03736,
title = {Learning Tractable Probabilistic Models for Moral Responsibility and Blame},
author = {Lewis Hammond and Vaishak Belle},
journal= {arXiv preprint arXiv:1810.03736},
year = {2021}
}
备注
Published in Data Mining and Knowledge Discovery (2021)