有益于人的智能：一种通过 AI 系统建模收益、协助及相关道德失败的 capability 路径
人工智能
2023-09-08 v2 计算机与社会
摘要
当前关于 AI 伦理的主流论述缺乏必要的语言与形式化工具，以捕捉 AI 系统与个人交互时出现的多样化伦理关切。借鉴 Sen 与 Nussbaum 的 capability approach（能力取向），我们提出一个框架，形式化了 AI 系统向利益相关者赋予有意义收益或协助所需的伦理概念与权利网络。此类系统提升利益相关者推进其人生规划与福祉的能力，同时维护其基本权利。我们刻画了 AI 系统与其运作所影响者之间道德上可允许交互的两个必要条件，以及实现有意义收益理想的两个充分条件。随后我们将该理想与若干显著失败模式对比，即构成无正当依据家长主义、强制、欺骗、剥削与支配的社会交互形式。涉及 AI 的高风险领域事件频发，凸显了这些问题的严重性及从一开始就对 AI 系统采取伦理主导路径的紧迫性。
引用
@article{arxiv.2308.00868,
title = {Beneficent Intelligence: A Capability Approach to Modeling Benefit, Assistance, and Associated Moral Failures through AI Systems},
author = {Alex John London and Hoda Heidari},
journal= {arXiv preprint arXiv:2308.00868},
year = {2023}
}