关于主动学习在道德偏好寻求中的优缺点

计算方法用于定量学习特定情境下人们的偏好。近期关于偏好寻求的研究倡导使用主动学习作为一种高效的方法，通过迭代构建查询（以情境特定案例之间的比较形式呈现），以获取关于代理人底层偏好的最具信息性的查询。在本工作中，我们认为，针对道德偏好寻求使用主动学习依赖于关于底层道德偏好的若干假设，而这些假设在实际应用中可能被违反。具体而言，我们指出以下常见假设：(a) 偏好随时间稳定，不受呈现查询序列的敏感性；(b) 选择合适的假设类来建模道德偏好；(c) 代理人响应中的噪声有限。在某些领域的偏好寻求中，这些假设可能是恰当的，但先前的道德心理学研究表明，这些假设可能不适用于道德判断。通过对违反上述假设的偏好的合成仿真，我们观察到，在某些情境下，主动学习的表现可能与基本的随机查询选择方法相似或更差。然而，仿真结果也表明，如果不稳定性或噪声程度相对较小，且代理人的偏好可以用用于学习的假设类近似表示，主动学习仍可能具有可行性。本研究突显了在实际操作中有效道德偏好寻求所涉及的细微差别，并倡导谨慎使用主动学习作为学习道德偏好的方法论。