道德不确定性与狂热主义问题
人工智能
2023-12-20 v1 计算机科学与博弈论
理论经济学
摘要
尽管普遍认同智能体应当合乎伦理地行动，但对于何为伦理行为并无共识。为了解决这一问题，近期关于“道德不确定性”的哲学方法提出聚合多种伦理理论以指导智能体行为。然而，其中一个基础的聚合提案——最大化期望选择价值（MEC）——被批评容易受到狂热主义的影响；即某一伦理理论尽管置信度较低，仍主导智能体行为的问题。因此，狂热主义破坏了容纳多种伦理视角的“民主”动机。狂热主义问题尚未得到数学定义。通过将道德不确定性表示为社会福利聚合的一个实例，本文对道德不确定性领域做出了以下贡献：1）将狂热主义问题形式化为社会福利泛函的一个属性；2）提供MEC的非狂热替代方案，即最高k截断均值与最高中位数。
引用
@article{arxiv.2312.11589,
title = {Moral Uncertainty and the Problem of Fanaticism},
author = {Jazon Szabo and Jose Such and Natalia Criado and Sanjay Modgil},
journal= {arXiv preprint arXiv:2312.11589},
year = {2023}
}