语言模型作为预后预测的少样本学习器

临床预测是医疗健康产业中的一项基本任务。然而，构建大语言模型的Transformer近期取得的成功尚未扩展到该领域。在本研究中，我们利用真实世界患者的临床数据与分子图谱，探索Transformer与语言模型在免疫治疗预后预测中的使用。本文研究了Transformer相比传统机器学习方法改善临床预测的潜力，并解决在罕见疾病领域预测中少样本学习的挑战。该研究在多种癌症类型上基准测试了基线模型与语言模型在预后预测上的效能，并考察了不同预训练语言模型在少样本机制下的影响。结果展示了准确率的显著提升，并凸显了NLP在临床研究中改善不同疾病早期检测与干预的潜力。