中文

高维线性回归中的统一迁移学习模型

机器学习 2024-01-31 v4 机器学习

摘要

当满足以下条件时,迁移学习在现代数据分析中发挥关键作用:(1)目标数据稀缺而源数据充足;(2)源数据与目标数据的分布异构。本文开发了一种可解释的统一迁移学习模型,称为UTrans,其可同时检测可迁移变量与源数据。更具体地,我们建立了估计误差界,并证明我们的界低于仅使用目标数据时的界。此外,我们提出了一种基于假设检验的源检测算法以排除不可迁移数据。我们在多个实验中评估UTrans并与现有算法比较。结果表明,UTrans在保持可解释性的同时,获得了比现有方法低得多的估计与预测误差。我们最终将其应用于美国代际流动性数据,并将所提算法与经典机器学习算法进行比较。

关键词

引用

@article{arxiv.2307.00238,
  title  = {Unified Transfer Learning Models in High-Dimensional Linear Regression},
  author = {Shuo Shuo Liu},
  journal= {arXiv preprint arXiv:2307.00238},
  year   = {2024}
}