人机交互中的责任量化（ResQu）模型
人机交互
2022-05-20 v4 人工智能
摘要
智能系统与先进自动化参与信息收集与评估、决策制定以及所选行动的实施。在此类系统中，人类责任变得模糊。当智能自主系统可能伤害人类时，理解人类因果责任尤为重要，例如自主车辆，或最引人注目的自主武器系统（AWS）。利用信息论，我们开发了人类参与智能自动化系统的责任量化（ResQu）模型，并展示其在 AWS 相关决策中的应用。分析揭示，即使主要功能分配给人，人类对结果的相对责任通常较低。因此，广泛表述的“保持人在回路”和“有意义的人类控制”政策具有误导性，无法真正指导如何让人参与智能系统与先进自动化的决策。当前模型是建立全面责任模型这一复杂目标的初步步骤，该模型将能量化人类因果责任。它假设平稳性、关于人与自动化特性的完全知识，并忽略时间方面。尽管存在这些局限，它可辅助分析系统设计备选方案以及有关智能系统与先进自动化中人类责任的政策决策。
引用
@article{arxiv.1810.12644,
title = {The Responsibility Quantification (ResQu) Model of Human Interaction with Automation},
author = {Nir Douer and Joachim Meyer},
journal= {arXiv preprint arXiv:1810.12644},
year = {2022}
}