人工强化学习代理具有道德重要性吗？

人工强化学习（RL）是人工智能中广泛使用的一种技术，提供了一种训练代理执行各种行为的通用方法。计算机科学中使用的 RL 与动物和人类大脑中的奖励与惩罚学习有着惊人的相似之处。我认为，当今的人工 RL 代理具有非常小但非零的道德重要性。对于那些认为感知能力是基于心智的能力和复杂性而呈等级分布的观点而言，这一点尤其合理；但即使是关于意识的二元观点，也应赋予 RL 程序拥有道德相关体验非零的概率。虽然 RL 程序目前并非首要的道德优先事项，但随着 RL 日益应用于工业、机器人技术、视频游戏及其他领域，它们在未来几十年可能会变得更加重要。我鼓励科学家、哲学家和公民开始一场对话，讨论我们减少对所施加伤害的无力、无声 RL 代理的道德义务。