第二决策者的警示：人机冲突导论
人机交互
2024-04-30 v1 人工智能
系统与控制
系统与控制
摘要
人与人工智能(AI)的协作是数字时代的一个显著特征。然而，人类与 AI 在同步工作时可能产生观察、解释与行动上的冲突。该现象常被故障所掩盖，且不幸地被忽视。本文系统介绍了人机冲突的概念、成因、度量方法与风险评估。结果强调：在人类之外存在一个潜在的第二决策者，即 AI；人机冲突是数字化过程系统中一种独特且新兴的风险；这是一个需要与传统故障与失效分析区分开的跨学科领域；冲突风险显著且不可忽略。
引用
@article{arxiv.2305.16477,
title = {Alert of the Second Decision-maker: An Introduction to Human-AI Conflict},
author = {He Wen},
journal= {arXiv preprint arXiv:2305.16477},
year = {2024}
}