基于伦理的自动化决策系统审计：性质、范围与局限
计算机与社会
2021-10-22 v1 软件工程
摘要
影响人类生活、生计和自然环境的重要决策正日益实现自动化。将任务委托给所谓的自动化决策系统（ADMS）可提高效率并催生新的解决方案。然而，这些益处伴随着伦理挑战。例如，ADMS可能产生歧视性结果、侵犯个人隐私并削弱人的自决权。因此，需要新的治理机制，帮助各组织以符合伦理的方式设计和部署ADMS，同时使社会充分获取自动化带来的经济与社会效益。在本文中，我们考察基于伦理的审计（EBA）作为一种治理机制的可行性与有效性，该机制使组织能够对其关于ADMS的主张进行验证。在既往工作基础上，我们将EBA定义为一个结构化过程，借此对某一实体的当前或过往行为是否契合相关原则或规范进行评估。随后，我们对现有文献作出三点贡献。首先，我们从理论上阐释EBA如何通过促进程序规范性与透明度来助益良好治理。其次，我们提出成功设计与实施EBA程序的七项准则。第三，我们识别并讨论了与EBA相关的概念、技术、社会、经济、组织和制度约束。我们得出结论：EBA应被视为管理ADMS所引发伦理风险的多维举措中不可或缺的组成部分。
引用
@article{arxiv.2110.10980,
title = {Ethics-Based Auditing of Automated Decision-Making Systems: Nature, Scope, and Limitations},
author = {Jakob Mokander and Jessica Morley and Mariarosaria Taddeo and Luciano Floridi},
journal= {arXiv preprint arXiv:2110.10980},
year = {2021}
}
备注
Artificial Intelligence, Auditing, Automated Decision-Making, Ethics, Governance