从偏好中学习社会价值体系

与人类价值及各方利益相关者（其价值体系）的价值偏好相一致的人工智能系统是伦理 AI 中的关键。价值感知人工智能系统中的决策依赖于明确的个人价值（ grounding ）的计算表示，以及其聚合为价值体系。由于这些体系在手动挖掘和校准方面极其困难，价值学习方法旨在从人类行为的演示中自动推导出代理人的价值及价值体系的计算模型。然而，社会科学和人文文献表明，将社会的价值体系视为不同群体价值体系的集合，而非个人价值体系的简单聚合更为恰当。因此，本文在形式化学习社会价值体系的问题，并提出一种基于启发式深度聚类的方法以解决该问题。该方法通过观察来自代理人样本的基于价值的定性偏好，学习社会共享的价值 grounding 以及代表给定社会的多个多样化价值体系。我们在使用真实数据关于旅行决策的用例中评估了该方案。