为正确的理由做正确的事：通过探查成本不敏感性评估人工道德认知
人工智能
2023-05-30 v1 计算机与社会
摘要
是否有可能评估复杂人工主体的道德认知？本工作中，我们考察道德的一个方面：“为正确的理由做正确的事”。我们提出一种基于行为的分析方法来评估人工道德认知，该方法亦可应用于人类以促进同类比较。受道德驱动的行为应不顾日益增加的成本而持续；通过测量主体对此成本的敏感性，我们得以深入洞察其潜在动机。我们将该评估应用于一组特定的深度强化学习主体，其通过基于记忆的元强化学习训练而成。我们的结果表明，使用包含利他偏好的奖励函数训练的主体，其助人行为对递增成本的敏感性低于使用更利己偏好训练的主体。
引用
@article{arxiv.2305.18269,
title = {Doing the right thing for the right reason: Evaluating artificial moral cognition by probing cost insensitivity},
author = {Yiran Mao and Madeline G. Reinecke and Markus Kunesch and Edgar A. Duéñez-Guzmán and Ramona Comanescu and Julia Haas and Joel Z. Leibo},
journal= {arXiv preprint arXiv:2305.18269},
year = {2023}
}
备注
11 pages, 3 figures