时间压力下的AI辅助医疗决策中的自动化偏差——基于计算病理学的实验研究
人机交互
2024-11-05 v1
摘要
人工智能 (AI) 基于临床决策支持系统 (CDSS) 有望提高计算病理学中的诊断准确性和效率。然而，人类-AI 协作可能引入自动化偏差，即用户不批判性地遵循自动化提示。这种偏差在时间压力限制从业者认知资源时可能加剧。我们通过测量负面系统咨询采纳率来量化自动化偏差，在一个基于网页的实验中，我们请 28 名受训的病理专家估计肿瘤细胞百分比。我们的结果表明，尽管 AI 集成导致整体性能显著提高，但也导致 7% 的自动化偏差率，即最初正确的评估被错误的 AI 建议所推翻。相反，时间压力并未加剧自动化偏差的发生，但似乎增加了其严重程�，证据表明这是一种对系统负面咨询的更高依赖，以及随之而来的性能下降。这些发现凸显了 AI 在医疗保健领域使用的潜在风险。
引用
@article{arxiv.2411.00998,
title = {Automation Bias in AI-Assisted Medical Decision-Making under Time Pressure in Computational Pathology},
author = {Emely Rosbach and Jonathan Ganz and Jonas Ammeling and Andreas Riener and Marc Aubreville},
journal= {arXiv preprint arXiv:2411.00998},
year = {2024}
}