哺乳动物价值系统

刻画人类价值是一个与科学、人文、艺术以及许多其他人类活动深度交织的话题。近年来，一些思想家认为，计算机科学、认知科学及相关学科中加速的趋势预示着能够匹敌并最终超越人类认知能力的智能机器的创造，从而将人类价值的理解与未来技术发展纠缠在一起。当代研究成就表明，复杂的 AI 系统正变得普及，并负责管理的现代世界的许多方面，从预先规划用户的旅行日程和物流，到全自动驾驶车辆，到辅助日常生活的家用机器人。这些趋势的推演在假想的“智能爆炸”背景下被最有力地描述，其中智能软件代理的能力由于生物有机体无法获得的反馈循环而迅速增加。超级智能代理的可能性，或者仅仅是复杂自主 AI 系统的广泛部署，凸显了一个重要的理论问题：需要将代理的认知和理性能力与其约束并指导代理行动的基本目标结构或价值系统分离。“价值对齐问题”是为自主代理指定与人类价值兼容的目标结构。在这篇简短文章中，我们提出，来自情感神经科学及相关学科、旨在刻画哺乳动物类中神经和行为普遍性的近期观点，为描述人类价值提供了重要的概念基础。我们认为，“哺乳动物价值系统”的概念指向了 AI 安全和 AI 伦理中基础研究的潜在途径。