利用大语言模型与传统机器学习集成从叙事文本中检测 ADHD
计算与语言
2025-05-28 v1
摘要
尽管大语言模型（LLM）取得了快速进展，但它们与已被证明适用于医疗数据的传统监督机器学习（ML）技术的整合仍鲜有探索。在精神病学应用中尤其如此，叙事数据通常表现出微妙的语言和上下文复杂性，并且可以从具有不同特征的多个模型的组合中受益。在本研究中，我们引入了一个集成框架，用于使用叙事文本自动分类注意缺陷多动障碍（ADHD）诊断（二元分类）。我们的方法整合了三个互补模型：LLaMA3，一个捕获长程语义结构的开放源码 LLM；RoBERTa，一个在标注临床叙事上微调的预训练 Transformer 模型；以及一个使用基于 TF-IDF 的词法特征训练的支持向量机（SVM）分类器。这些模型通过多数投票机制进行聚合，以增强预测的鲁棒性。数据集包含 441 个实例，其中 352 个用于训练，89 个用于验证。实证结果表明，该集成模型优于单个模型，F 得分为 0.71（95\% CI: [0.60-0.80]）。与表现最佳的单个模型（SVM）相比，该集成模型在保持有竞争力的精确率的同时提高了召回率。这表明该集成模型在识别 ADHD 相关语言线索方面具有很强的敏感性。这些发现证明了混合架构的潜力，该架构利用 LLM 的语义丰富性以及传统监督 ML 的可解释性和模式识别能力，为鲁棒且可泛化的精神病学文本分类提供了新方向。
引用
@article{arxiv.2505.21324,
title = {Leveraging large language models and traditional machine learning ensembles for ADHD detection from narrative transcripts},
author = {Yuxin Zhu and Yuting Guo and Noah Marchuck and Abeed Sarker and Yun Wang},
journal= {arXiv preprint arXiv:2505.21324},
year = {2025}
}