别怪我：智能支持如何影响人类监督中的道德责任
人机交互
2026-02-12 v1
摘要
AI 系统日益能够自主执行工作任务。在安全关键任务中，需要对这些系统进行人类监督，以减缓风险并在出错时确保责任。由于人们往往难以保持注意力和进行良好监督，人们会使用智能支持系统，如给出决策建议、警报用户或限制其进行危险行动。然而，在建议错误的情况下，决策支持可能削弱人类监督所基于的原因——真正的道德责任。本研究旨在调查限制可用干预的决策支持系统如何影响监督者感知到的道德责任，特别是在支持错误的情况下。在一个模拟监督实验中，参与者（）监控一架Autonomous drone 在面临十个关键情境时，选择六种可能的行动方案中的一个来解决每个情境。AI 系统将参与者的选择限制为从六种、四种、两种或仅一种选项中做出选择（etween-subject 研究）。结果表明，受限于仅能选择一种行动的参与者，在发生坠毁时感到自己道德责任较小。同时，参与者对其他利益相关者（AI；AI 的开发者）的责任感判断并未在不同条件之间发生变化。我们的发现为用户界面设计和监督架构提供了重要见解：它们应防止用户将道德主体性归因于 AI，帮助用户理解道德责任的分配方式；当监督旨在防止不道德的不良结果时，应设计为支持实现道德责任所必需的认识论条件和因果条件。
引用
@article{arxiv.2602.10701,
title = {Don't blame me: How Intelligent Support Affects Moral Responsibility in Human Oversight},
author = {Cedric Faas and Richard Uth and Sarah Sterz and Markus Langer and Anna Maria Feit},
journal= {arXiv preprint arXiv:2602.10701},
year = {2026}
}