基于贝叶斯元学习提升具有相似因果机制的健康预测模型泛化能力
机器学习
2024-12-31 v3 机器学习
摘要
多任务学习、元学习和迁移学习等机器学习策略，通过利用跨大数据集与多领域的可泛化知识，能够高效地将机器学习模型适配到医疗健康中的特定应用，例如各类疾病的预测。特别地，贝叶斯元学习方法将相关预测任务的数据汇集以学习模型参数的先验分布，并据此推导特定任务的模型。然而，由于疾病异质性和其他患者层面差异导致的任务间与任务内变异性，在共享学习中带来了负迁移的挑战，并对新患者的泛化能力较差。我们提出了一种新颖的贝叶斯元学习方法，旨在两种关键设定下解决该问题：（1）对新患者（与训练集同人群）的预测；（2）对新患者人群的适配。我们的主要贡献在于对任务间因果机制相似性进行建模，以（1）在训练中缓解负迁移，（2）通过汇集预期有助于泛化性的任务信息来进行微调。我们提出了一种在贝叶斯深度学习中实现该方法的算法，并将其应用于基于电子健康记录数据的卒中预测任务案例研究。以 UK Biobank 数据集作为训练人群的实验中，相较于标准元学习、非因果任务相似性度量和局部基线（各任务独立模型），该方法在泛化性上表现出显著提升。评估涵盖多种任务，包括来自训练人群（UK Biobank）的新患者以及新人群（FinnGen）。
引用
@article{arxiv.2310.12595,
title = {Bayesian Meta-Learning for Improving Generalizability of Health Prediction Models With Similar Causal Mechanisms},
author = {Sophie Wharrie and Lisa Eick and Lotta Mäkinen and Andrea Ganna and Samuel Kaski and FinnGen},
journal= {arXiv preprint arXiv:2310.12595},
year = {2024}
}