多智能体公地悲剧中的人工 virtuous 智能体

尽管美德伦理学已被多次提议作为开发人工道德智能体（AMA）的合适框架，但从计算视角出发却已被证明难以实现。本文中，我们首次在道德仿真中给出人工美德智能体（AVA）的技术实现。首先，我们回顾了以往在人工美德伦理学方面的概念性与技术性工作，并基于倾向性美德、自下而上的学习以及自上而下的 eudaimonic 奖励，描述了通向 AVA 的功能主义路径。随后，我们提供了基于公地悲剧场景的道德仿真中的技术实现细节。实验结果显示，这些 AVA 如何学会应对合作问题，同时展现出其理论对应物的核心特征，包括道德品格、倾向性美德、从经验中学习以及对 eudaimonia 的追求。最终，我们认为美德伦理学为构建道德卓越的机器提供了一条引人注目的路径，而我们的工作为此类探索提供了重要的起点。