我是否应该采纳基于 AI 的建议?对人类-AI 决策中适度依赖的度量
人机交互
2022-04-15 v1 人工智能
摘要
日常生活中的许多重要决策是在顾问的帮助下做出的,例如有关医疗治疗或金融投资的决策。过去,建议常来自人类专家、朋友或家人,而如今基于人工智能(AI)的顾问已愈发普遍。通常,AI 生成的建议由人类判断并被视为可靠或遭拒绝。然而,近期研究表明 AI 建议并非总是有益,因为人类表现出无法忽略不正确的 AI 建议,本质上体现了对 AI 的过度依赖。因此,理想目标应是使人类不盲目依赖 AI 建议,而是能够区分其质量并据此行动以做出更好的决策。具体而言,这意味着人类应在建议正确时依赖 AI,而在面对不正确建议时依靠自身,即针对 AI 建议建立基于具体情形的适度依赖(AR)。当前研究缺乏 AR 的度量指标。这阻碍了对影响 AR 因素的严格评估,并制约了人类-AI 决策的进一步发展。因此,我们基于文献推导了 AR 的度量概念。我们提议将 AR 视为一个二维构念,用于度量区分建议质量并相应行动的能力。本文中,我们推导该度量概念,阐明其应用并勾勒潜在未来研究。
引用
@article{arxiv.2204.06916,
title = {Should I Follow AI-based Advice? Measuring Appropriate Reliance in Human-AI Decision-Making},
author = {Max Schemmer and Patrick Hemmer and Niklas Kühl and Carina Benz and Gerhard Satzger},
journal= {arXiv preprint arXiv:2204.06916},
year = {2022}
}
备注
ACM Conference on Human Factors in Computing Systems (CHI '22), Workshop on Trust and Reliance in AI-Human Teams (trAIt)