具有不确定性量化的迁移学习:源到目标的随机效应校准 (RECaST)
统计方法学
2022-12-01 v1 机器学习
摘要
迁移学习利用在一个群体数据上训练的数据模型,对另一个群体的数据做出可靠的预测或推断。现有的大多数迁移学习方法基于微调预训练神经网络模型,且无法提供关键的不确定性量化。我们开发了一个基于迁移学习的模型预测统计框架,称为 RECaST。其主要机制是一个 Cauchy 随机效应,用于将源模型重新校准至目标群体;我们从数学和经验上证明了 RECaST 方法在线性模型间迁移学习中的有效性,即预测集将实现其标称的覆盖概率,并通过数值说明了该方法对非线性模型渐近近似的稳健性。许多现有技术建立在特定的源模型之上,而 RECaST 与源模型的选择无关。例如,我们的 RECaST 迁移学习方法可应用于具有线性或逻辑回归的连续或离散数据模型、深度神经网络架构等。此外,RECaST 还提供了预测的不确定性量化,这在现有文献中大多缺失。我们在模拟研究和真实医院数据应用中检验了该方法的性能。
引用
@article{arxiv.2211.16557,
title = {Transfer Learning with Uncertainty Quantification: Random Effect Calibration of Source to Target (RECaST)},
author = {Jimmy Hickey and Jonathan P. Williams and Emily C. Hector},
journal= {arXiv preprint arXiv:2211.16557},
year = {2022}
}
备注
26 pages, 2 figures, 4 tables