厘清人工智能的责任归属
人工智能
2025-08-19 v4 计算机与社会
机器人学
摘要
人们广泛承认，我们需要确立 AI 赋能系统之输出与影响的责任所在。这对于实现针对 AI 危害受害者的正义与补偿，以及为政策与工程实践提供信息至关重要。但若对“责任”之意缺乏清晰、透彻的理解，关于责任所在的审议将最好也不过是焦点模糊且不完整的，最坏则会被误导。此外，AI 赋能系统存在于由行动者、决策与治理结构构成的更广义生态系统中，由此产生复杂的责任关系网络。为解决这些问题，本文提出一个责任概念框架，并辅以图形化符号与通用方法，用于可视化这些责任网络并追踪针对 AI 的不同责任归因。借助“行动者 A 对事件 O 负责”的三段式表述，该框架拆解责任概念，阐明谁可能对 AI 负责、以何种意义负责以及对其事件的哪些方面负责均存在不同可能。该符号允许以图形方式表示这些排列组合。该方法使用户能将框架应用于具体场景。其旨在为来自不同学科背景的利益相关者提供基础，以讨论并处理涉及 AI 的假设与现实案例中复杂的责任问题。该工作通过对一艘无人、AI 赋能的海上自主模式船舶与一艘传统有人船舶在海面发生致命碰撞的虚构场景的应用加以说明。
引用
@article{arxiv.2308.02608,
title = {Unravelling Responsibility for AI},
author = {Zoe Porter and Philippa Ryan and Phillip Morgan and Joanna Al-Qaddoumi and Bernard Twomey and Paul Noordhof and John McDermid and Ibrahim Habli},
journal= {arXiv preprint arXiv:2308.02608},
year = {2025}
}