评估医生与人工智能在癌症管理中的交互：迈向精准肿瘤学之路
人机交互
2026-05-19 v2
摘要
随着基于机器学习（ML）的决策支持工具在临床实践中的普及，理解临床医生如何整合个性化ML预测与随机对照试验（RCT）证据至关重要。我们设计了一个基于网络的临床决策支持系统（CDSS），呈现来自模拟RCT和ML模型的生存和不良事件数据，涵盖12个合成多发性骨髓瘤场景。在一项包含32名医生的受试者内研究中，我们评估了临床医生如何综合竞争性证据来源来做出治疗决策。当ML和RCT输出一致时，医生报告的置信度高于仅使用RCT数据。当结果不一致时，大多数医生转向ML支持的治疗，通常是在查看任何关于模型训练或验证的信息之前，这表明存在自动化偏见而非算法回避。尽管在查看模型质量披露后报告了更高的感知可靠性，但医生大多无法描述他们审查过的验证程序。综合来看，这些发现表明，即使配备了旨在支持批判性评估的工具，临床医生也可能过度依赖ML建议。我们讨论了对CDSS设计、临床医生培训以及在基于ML的系统部署到高风险肿瘤学环境之前所需的制度保障的影响。
引用
@article{arxiv.2404.15187,
title = {Evaluating Physician-AI Interaction for Cancer Management: Paving the Path towards Precision Oncology},
author = {Zeshan Hussain and Barbara D. Lam and Fernando A. Acosta-Perez and Irbaz Bin Riaz and Maia Jacobs and Andrew J. Yee and David Sontag},
journal= {arXiv preprint arXiv:2404.15187},
year = {2026}
}