辅助决策中理论、实测与主观的责任归属
人机交互
2022-05-20 v3
摘要
当人类与智能系统交互时，其对结果的因果责任变得模糊。我们分析了新开发的责任量化模型（ResQu）在预测人类实际责任及与智能系统交互中责任感知方面的描述能力。在两个实验室实验中，参与者执行分类任务，并由具有不同能力的分类系统辅助。我们将预测的理论责任值与实际承担的实测责任以及主观责任排序进行比较。模型预测与实测责任和主观责任均高度相关。仅当分类能力较差的参与者以次优方式依赖具有更优分类能力的系统并承担高于最优水平的责任时，才存在偏差。该研究表明，当人类与能力远超自身的先进智能系统交互时，其相对因果责任将很小，即便在形式上人类被赋予主要角色。仅仅将人类置于回路中并不能确保其对结果有实质性贡献。结果证明了ResQu模型通过考虑人类、智能系统、环境特征及某些系统性行为偏差来预测责任行为与感知的描述价值。ResQu模型是一种新的定量方法，可用于系统设计，并可指导涉及智能系统事件中人类责任相关的政策与法律决策。
引用
@article{arxiv.1904.13086,
title = {Theoretical, Measured and Subjective Responsibility in Aided Decision Making},
author = {Nir Douer and Joachim Meyer},
journal= {arXiv preprint arXiv:1904.13086},
year = {2022}
}