基于伦理的自动化决策系统审计：干预点与政策启示

各组织越来越多地使用自动化决策系统（ADMS）来辅助影响人类及其环境的决策。虽然 ADMS 的使用可以提高决策过程的准确性和效率，但也伴随着伦理挑战。遗憾的是，目前用于监督人类决策的治理机制在应用于 ADMS 时往往失效。在先前的工作中，我们提出基于伦理的审计（EBA），即一种通过评估 ADMS 与相关原则或规范的一致性来（a）帮助组织核实其关于 ADMS 的主张，并（b）为决策对象提供 ADMS 输出理由的结构化过程。在本文中，我们概述了 EBA 程序在实践中可行且有效的条件。首先，我们认为 EBA 最好被理解为一种“软性”但“正式”的治理机制。这意味着审计员的主要责任应是在软件开发过程的关键干预点引发伦理审议，并确保有充分的文档记录以回应潜在的质询。其次，我们将 ADMS 框定为更大型社会技术系统的一部分，以表明要实现可行且有效，EBA 程序必须链接到跨越组织治理各个层面和软件生命周期所有阶段的干预点。因此，EBA 的主要功能应是告知、形式化、评估和互连现有的治理结构。最后，我们讨论了我们的发现的政策启示。为支持可行且有效的 EBA 程序的出现，政策制定者和监管者可以提供标准化报告格式、促进知识交流、就如何解决规范张力提供指导，并创建一个独立机构来监督 ADMS 的 EBA。