自然语言处理中解决医学误信息的范围性综述：错误、误导与幻觉
计算与语言
2025-08-05 v2 人工智能
摘要
目标：本综述旨在探讨使用自然语言处理（Natural Language Processing, NLP）来检测、纠正和缓解医学误信息的潜力与挑战，包括错误、误导和幻觉。通过统一这些概念，综述强调它们共享的方法论基础以及各自对医疗保健的独特影响。我们的目标是推进患者安全，改善公共卫生沟通，并支持开发更可靠、更透明的医疗保健领域 NLP 应用。方法：遵循 PRISMA 指南开展的范围性综述，分析了2020至2024年间来自五个数据库的研究文献。根据其使用 NLP 处理医学误信息的方式进行筛选，并按主题、任务、文档类型、数据集、模型和评估指标进行分类。结果：NLP 在以下任务中显示出处理医学误信息的潜力：（1）错误检测（2）错误纠正（3）误导检测（4）误导纠正（5）幻觉检测（6）幻觉缓解。然而，数据隐私、情境依赖性和评估标准仍是挑战。结论：本综述突显了将 NLP 应用于解决医学误信息方面的进展，同时强调需解决持续挑战的必要性。未来工作应聚焦开发真实世界数据集、细化情境方法以及改进幻觉管理，以确保可靠、透明的医疗保健应用。
引用
@article{arxiv.2505.00008,
title = {A Scoping Review of Natural Language Processing in Addressing Medically Inaccurate Information: Errors, Misinformation, and Hallucination},
author = {Zhaoyi Sun and Wen-Wai Yim and Ozlem Uzuner and Fei Xia and Meliha Yetisgen},
journal= {arXiv preprint arXiv:2505.00008},
year = {2025}
}
备注
This paper has been accepted by the Journal of Biomedical Informatics