受托责任：促进公众对自动化决策的信任

自动化决策系统正日益被部署，并以多种积极和消极方式影响公众。政府与私人机构使用这些系统依据某些人为制定的规则处理信息，以应对社会问题或组织挑战。研究与现实经验均表明，公众对自动化决策系统及部署它们的机构缺乏信任。受托责任定理认为，若管理这些系统的机构履行其受托责任，公众更可能信任并支持由自动化决策系统做出或影响的决策。然而，公众常常从未被告知这些系统如何运作以及由此产生的机构决策如何做出。自动化决策系统的“黑箱”效应降低了公众对其完整性与可信度的感知。其结果是公众丧失了识别、质疑和纠正不公平，或与公共物品或福利丧失相关成本的能力。本立场文件定义并解释了受托责任在自动化决策系统中的作用。我们将自动化决策系统表述为数据科学生命周期（DSL），并考察受托责任在DSL语境下的意涵。DSL中的受托责任提供了一种方法，以解决公众对其决策影响公众的自动化决策系统及采用它们的机构的不信任。我们假定受托责任显现于DSL的若干语境中，每一语境都需自身对不信任源的缓解。为实例化受托责任，我们考察了一个洛杉矶警察局（LAPD）预测性警务案例研究。