迈向人工德性智能体:游戏、困境与机器学习

由于需要确保安全可靠的AI(artificial intelligence, 人工智能),机器伦理在过去几年中受到越来越多的关注。机器伦理中主要使用的两种理论是道义论伦理与功利主义伦理。另一方面,德性伦理常被提及作为一种替代伦理理论。尽管这一有趣的方法相较于流行的伦理理论具有一定优势,但由于其在形式化、可编码性以及用于训练德性智能体的伦理困境消解方面存在挑战,将德性智能体工程化的努力甚少。我们提议通过使用充满道德困境的角色扮演游戏来弥补这一差距。现有若干此类游戏,如《Papers, Please》和《Life is Strange》,其中主角会遇到必须放弃某些珍视之物以选择正确行动方针的情境。我们从这类游戏中汲取灵感,展示如何设计一个系统性的角色扮演游戏,以在人工智能体内培养德性。利用现代AI技术,如基于亲和力的强化学习(affinity-based reinforcement learning)和可解释AI(explainable AI),我们论证了游玩此类角色扮演游戏的德性智能体的实现,以及通过德性伦理视角对其决策进行的审视。此类智能体与环境的发展,是朝着在实际中形式化并展示德性伦理在伦理智能体开发中之价值的第一步。