高维线性回归中的统一迁移学习模型
机器学习
2024-01-31 v4 机器学习
摘要
当满足以下条件时,迁移学习在现代数据分析中发挥关键作用:(1)目标数据稀缺而源数据充足;(2)源数据与目标数据的分布异构。本文开发了一种可解释的统一迁移学习模型,称为UTrans,其可同时检测可迁移变量与源数据。更具体地,我们建立了估计误差界,并证明我们的界低于仅使用目标数据时的界。此外,我们提出了一种基于假设检验的源检测算法以排除不可迁移数据。我们在多个实验中评估UTrans并与现有算法比较。结果表明,UTrans在保持可解释性的同时,获得了比现有方法低得多的估计与预测误差。我们最终将其应用于美国代际流动性数据,并将所提算法与经典机器学习算法进行比较。
引用
@article{arxiv.2307.00238,
title = {Unified Transfer Learning Models in High-Dimensional Linear Regression},
author = {Shuo Shuo Liu},
journal= {arXiv preprint arXiv:2307.00238},
year = {2024}
}