CovidLLM：一种针对预测新冠肺炎患者病情严重程度和临床结果的缺失值适应和多目标学习策略的鲁棒大语言模型
计算与语言
2024-12-06 v1 人工智能
机器学习
摘要
2019 年出现的冠状病毒病（COVID-19）已导致全球数百万人死亡。虽然已开发出有效的疫苗来减轻严重症状，但 certain 人群，特别是老年人和合并其他疾病者，仍面临高风险，可能出现严重后果和增加死亡率。因此，及早识别这些患者的病情严重程度和临床结果至关重要，以防止不良预后。尽管传统机器学习和深度学习模型在这一领域得到了广泛应用，但大语言模型（LLM）的潜力仍基本未被探索。我们的研究主要关注构建专门的提示并采用多目标学习策略。我们首先选择与临床结果和病情严重程度显著相关的血清指标，作为模型的输入数据。血液检测样本通常包含大量缺失值，传统模型通常依赖插值来处理这些数据中的空白。相比之下，LLM 具有强大的语义理解能力。通过设置提示，我们可以明确告诉模型某个特征的值缺失，而无需进行插值。在多目标学习策略方面，该模型被设计为首先预测病情严重程度，然后预测临床结果。鉴于 LLM 同时将输入文本和生成的标记作为输入来生成下一个标记，预测的严重程度用作生成临床结果的依据。在 LLM 的微调期间，两个目标相互影响并相互提高。我们的实验基于 ChatGLM 模型实现。结果表明 LLM 在该任务方面的效果，表明其在进一步发展中具有巨大的潜力。
引用
@article{arxiv.2412.03593,
title = {CovidLLM: A Robust Large Language Model with Missing Value Adaptation and Multi-Objective Learning Strategy for Predicting Disease Severity and Clinical Outcomes in COVID-19 Patients},
author = {Shengjun Zhu and Siyu Liu and Yang Li and Qing Lei and Hongyan Hou and Hewei Jiang and Shujuan Guo and Feng Wang and Rongshang Chen and Xionglin Fan and Shengce Tao and Jiaxin Cai},
journal= {arXiv preprint arXiv:2412.03593},
year = {2024}
}