归因 AI 引发事件中的责任：一种用于问责的计算反思平衡框架
人工智能
2025-09-29 v2 计算机与社会
摘要
人工智能（AI）的广泛渗透，在涉及 AI 系统的事件中引入了关于责任与问责的复杂挑战。这些系统的互联性、AI 引发事件的伦理问题，加之 AI 技术的不确定性及相关法规的缺失，使得传统的责任归因面临困难。为此，本研究提出了一种计算反思平衡（CRE）方法，为所有利益相关者建立一个连贯且在伦理上可接受的责任归因框架。该计算方法提供了结构化分析，克服了概念方法在处理动态且多面场景时的局限性，展示了该框架在责任归因过程中的可追溯性、连贯性与自适应性。我们考察了与均衡计算中主张相关的初始激活水平的关键作用。以 AI 辅助医疗决策支持系统为案例研究，我们阐释了不同的初始化如何导致多样的责任分布。该框架为 AI 引发事件中的问责提供了有价值的见解，通过持续监测、修订与反思，促进了可持续且具韧性系统的开发。
引用
@article{arxiv.2404.16957,
title = {Attributing Responsibility in AI-Induced Incidents: A Computational Reflective Equilibrium Framework for Accountability},
author = {Yunfei Ge and Ya-Ting Yang and Quanyan Zhu},
journal= {arXiv preprint arXiv:2404.16957},
year = {2025}
}