不确定机器伦理规划
人工智能
2025-05-08 v1 计算机与社会
摘要
机器伦理决策应考虑决策不确定性的影响。决策应在动作序列上做出，以长期达到更优的结果。然而，结果的评估可能调用一种或多种道德理论，这些理论可能具有冲突的判断。每种理论将需要不同的伦理情境表示。例如，功利主义测量数值，义务论分析职责，而美德伦理强调道德品格。在平衡潜在冲突的道德考量时，可能需要做出决策，例如，以最小成本实现道德中立的目标。在本文中，我们将该问题形式化为多道德马尔可夫决策过程和多道德随机最短路径问题。我们开发了一种基于多目标 AO* 的启发式算法，利用 Sven-Ove Hansson 的假想回溯程序进行不确定性下的伦理推理。我们的方法通过机器伦理文献中的一个案例研究得到了验证：是否为需要胰岛素的人偷窃胰岛素的问题。
引用
@article{arxiv.2505.04352,
title = {Uncertain Machine Ethics Planning},
author = {Simon Kolker and Louise A. Dennis and Ramon Fraga Pereira and Mengwei Xu},
journal= {arXiv preprint arXiv:2505.04352},
year = {2025}
}