有意义的人类控制：面向 AI 系统开发的可操作属性
计算机与社会
2022-05-20 v2 人工智能
摘要
人类如何保持对旨在自主执行任务的人工智能(AI)系统的控制？此类系统日益普及，带来益处——但也产生不良情形，即对其行为的道德责任无法恰当地归属于任何特定个人或群体。有意义的人类控制这一概念被提出以应对责任鸿沟，并通过建立使人类责任得以恰当归属的条件来缓解之；然而，目前尚不存在针对研究者、设计者和工程师的明确要求，使得开发保持在有意义人类控制下的 AI 系统具有挑战性。在本文中，我们通过溯因思维的迭代过程识别出有意义人类控制下 AI 系统的四个可操作属性，从而弥合哲学理论与工程实践之间的鸿沟，并借助两个应用场景——自动驾驶车辆与基于 AI 的招聘——加以讨论。第一，人与 AI 算法交互的系统应具有明确界定的、系统应当运行的道德负载情境域。第二，系统内人类与 AI 主体应具有适当且相互兼容的表征。第三，归属于人类的责任应与该人类控制系统的能力与权限相称。第四，应存在 AI 主体行为与其知晓自身道德责任的人类行为之间的显式关联。我们认为这四个属性将支持务实的专业人士采取具体步骤，以面向促进有意义人类控制的 AI 系统进行设计与工程化。
引用
@article{arxiv.2112.01298,
title = {Meaningful human control: actionable properties for AI system development},
author = {Luciano Cavalcante Siebert and Maria Luce Lupetti and Evgeni Aizenberg and Niek Beckers and Arkady Zgonnikov and Herman Veluwenkamp and David Abbink and Elisa Giaccardi and Geert-Jan Houben and Catholijn M. Jonker and Jeroen van den Hoven and Deborah Forster and Reginald L. Lagendijk},
journal= {arXiv preprint arXiv:2112.01298},
year = {2022}
}
备注
Preprint. Published AI and Ethics (2022): https://doi.org/10.1007/s43681-022-00167-3