当 AI 书写回应：关于 AI 草拟患者信息回复的医生伦理考量
计算机与社会
2025-08-20 v1 人机交互
摘要
响应大量患者信息留言的负担日益成为医生倦怠的关键因素。生成式人工智能（GenAI）显示出巨大的潜力，可通过自动草拟患者信息回复来缓解这一负担。然而，这种用例的伦理含义尚未得到充分探讨。为填补这一知识空白，我们对21名参与 GenAI 试点项目的医生进行了半结构化访谈。我们发现，医生参与者所表达的突出性伦理考量包括将人工监督作为伦理保障、AI 使用的透明度和患者同意、患者对 AI 角色误解，以及患者隐私和数据安全作为前提条件。此外，我们的发现表明，医生们认为就该语境下使用 GenAI 的伦理责任主要在于用户，而非技术本身。这些发现可能为指导未来在临床实践中采用 GenAI 提供有益见解。
引用
@article{arxiv.2508.13217,
title = {When AI Writes Back: Ethical Considerations by Physicians on AI-Drafted Patient Message Replies},
author = {Di Hu and Yawen Guo and Ha Na Cho and Emilie Chow and Dana B. Mukamel and Dara Sorkin and Andrew Reikes and Danielle Perret and Deepti Pandita and Kai Zheng},
journal= {arXiv preprint arXiv:2508.13217},
year = {2025}
}
备注
Paper accepted for the proceedings of the 2025 American Medical Informatics Association Annual Symposium (AMIA)