面向噪声临床笔记的健全且公平的下一访问诊断预测——大语言模型视角
计算与语言
2025-11-25 v1
摘要
人工智能领域过去十年的快速发展为临床决策支持系统（CDSS）带来了新的机遇，大语言模型（LLM）在处理及时医疗任务方面展现出强大的推理能力。然而，临床文本常受人为错误或自动化管道故障的影响，引发对AI辅助决策可靠性和公平性的担忧。目前对此类退化影响的研究仍不充分，尤其是关于噪声引起的分布迁移如何加剧预测不确定性并不均匀影响不同人口统计亚群的问题。我们进行了一项系统性研究，考察在多样化文本损坏情景下的领先LLM在下一访问诊断预测中的鲁棒性与公平性。为解决大诊断标签空间带来的挑战，我们引入临床导向的标签降维方案，以及层次化链式思维（CoT）策略，模拟临床医生的推理过程。我们的方法在降低输入退化下的鲁棒性并减少亚群不稳定性方面取得显著改进，推动了LLM在CDSS中可靠应用的发展。我们已在GitHub上发布代码：https://github.com/heejkoo9/NECHOv3
引用
@article{arxiv.2511.18393,
title = {Towards Robust and Fair Next Visit Diagnosis Prediction under Noisy Clinical Notes with Large Language Models},
author = {Heejoon Koo},
journal= {arXiv preprint arXiv:2511.18393},
year = {2025}
}
备注
Accepted by the Association for the Advancement of Artificial Intelligence (AAAI) 2026 1st Workshop on Safe, Ethical, Certified, Uncertainty-aware, Robust, and Explainable AI for Health (SECURE-AI4H)