过度依赖“依赖”：迈向基于AI的临床决策支持的现实评估
人机交互
2025-04-11 v1 人工智能
其他定量生物学
摘要
随着基于AI的临床决策支持（AI-CDS）在医疗服务的越来越多方面被引入，人机交互研究在设计AI与临床医生互补性方面发挥着越来越重要的作用。然而，当前对AI-CDS的评估往往未能捕捉到AI何时对临床医生有用或无用。这篇立场论文反思了我们的工作以及有影响力的AI-CDS文献，倡导超越诸如信任、依赖、接受度和AI任务上的表现（我们称之为“人机协作陷阱”）等评估指标。尽管这些指标在某些简单场景中可能有意义，但我们认为优化这些指标忽略了AI在临床效益方面不足的重要方式，以及临床医生成功使用AI的方式。随着人机交互和医疗AI领域开发设计和评估CDS工具的新方法，我们呼吁社区优先考虑生态有效、领域适当的研究设置，以衡量AI能够为医疗专业人员带来的新兴价值形式。
引用
@article{arxiv.2504.07423,
title = {Over-Relying on Reliance: Towards Realistic Evaluations of AI-Based Clinical Decision Support},
author = {Venkatesh Sivaraman and Katelyn Morrison and Will Epperson and Adam Perer},
journal= {arXiv preprint arXiv:2504.07423},
year = {2025}
}
备注
Accepted to the CHI '25 Workshop on Envisioning the Future of Interactive Health