大语言模型对阿尔茨海默病了解多少？基于细调、探测与数据合成的AD检测
计算与语言
2026-02-13 v1 人工智能
摘要
阿尔茨海默病（AD）的可靠早期检测面临着数据稀缺的挑战。虽然大型语言模型（LLM）在跨领域展现出强大的迁移能力，但通过监督式细调将其适配到 AD 领域仍属未充分探索的范畴。本文对进行 AD 检测的 LLM 进行细调，并探讨了任务相关信息如何编码于其内部表示之中。我们采用探测技术分析 Transformer 各层的中间激活值，并观察到在细调后，特定单词和特殊标记的探测值发生显著变化，这表明这些元素在模型获得的检测性能提升中扮演着关键角色。基于这一洞察，我们设计了一套任务感知的特殊标记集合，并训练一个序列到序列模型作为数据合成工具，利用这些标记生成结构一致且具有诊断信息的合成样本。我们对合成数据进行了内在评估，并将其纳入下游训练管道进行验证。
引用
@article{arxiv.2602.11177,
title = {What Do LLMs Know About Alzheimer's Disease? Fine-Tuning, Probing, and Data Synthesis for AD Detection},
author = {Lei Jiang and Yue Zhou and Natalie Parde},
journal= {arXiv preprint arXiv:2602.11177},
year = {2026}
}