XAI4LLM：让机器学习模型与大语言模型协同增强医疗领域的上下文学习
机器学习
2025-07-28 v4 人工智能
计算与语言
摘要
临床决策支持系统需要的模型不仅要高度准确，还要公平且对漏诊的影响敏感。在本研究中，我们引入了一个知识引导的上下文学习（ICL）框架，旨在使大语言模型（LLMs）能够有效处理结构化临床数据。我们的方法整合了特定领域的特征分组、精心平衡的少样本示例以及任务特定的提示策略。我们通过多种提示变体和两种不同的沟通风格（自然语言叙述和数字对话），在七十种不同的ICL设计中系统地评估了该方法，并将其在心脏病和糖尿病预测任务上的性能与稳健的经典机器学习（ML）基准进行了比较。我们的研究结果表明，虽然在平衡的精确率-召回率场景中，传统ML模型仍保持优越性能，但采用融合领域知识的叙述性提示的LLMs实现了更高的召回率，并显著降低了性别偏见，有效地将公平性差异缩小了一个数量级。尽管目前存在推理延迟增加的局限性，LLMs仍提供了显著优势，包括零样本部署能力和增强的公平性。这项研究首次全面分析了将LLMs应用于表格化临床任务的ICL设计考量，并指出知识蒸馏和多模态扩展是未来研究有前景的方向。
引用
@article{arxiv.2405.06270,
title = {XAI4LLM. Let Machine Learning Models and LLMs Collaborate for Enhanced In-Context Learning in Healthcare},
author = {Fatemeh Nazary and Yashar Deldjoo and Tommaso Di Noia and Eugenio di Sciascio},
journal= {arXiv preprint arXiv:2405.06270},
year = {2025}
}