以大语言模型辅助回复患者消息的影响
计算与语言
2023-12-01 v2
摘要
文书负担是临床医生职业倦怠的主要诱因，其正全国性地加剧，并对我们照护患者的能力构成紧迫威胁。人工智能(AI)聊天机器人，如 ChatGPT，可通过协助文书工作来减轻临床医生负担。尽管许多医院正积极将此类系统集成进电子病历系统，但 AI 聊天机器人用于此预期用途的效用及对临床决策的影响尚未被研究。我们首次考察了大语言模型协助临床医生起草患者问题回复的效用。在我们的两阶段横断面研究中，6 名肿瘤科医生对 100 个反映常见医疗情形的现实合成癌症患者场景与门户消息先手动回复，再在 AI 辅助下回复。我们发现 AI 辅助回复更长、可读性更低，但 58% 的情况下提供了无需编辑的可接受草稿。AI 辅助在 77% 的情况下提升了效率，且危害风险低（82% 安全）。然而，7.7% 未加编辑的 AI 回复可能造成严重伤害。在 31% 的案例中，医生认为 AI 草稿为人所写。AI 辅助较手动回复带来了更多患者教育建议、更少临床操作。结果显示，若审慎使用，AI 通过协助文书工作来改善临床医生效率与患者照护大有前景。监测模型输出与人机交互对于安全实施仍至关重要。
引用
@article{arxiv.2310.17703,
title = {The impact of responding to patient messages with large language model assistance},
author = {Shan Chen and Marco Guevara and Shalini Moningi and Frank Hoebers and Hesham Elhalawani and Benjamin H. Kann and Fallon E. Chipidza and Jonathan Leeman and Hugo J. W. L. Aerts and Timothy Miller and Guergana K. Savova and Raymond H. Mak and Maryam Lustberg and Majid Afshar and Danielle S. Bitterman},
journal= {arXiv preprint arXiv:2310.17703},
year = {2023}
}
备注
4 figures and tables in main, submitted for review