中文

面向看似相似源的非参数回归源函数加权迁移学习

统计方法学 2023-02-23 v1

摘要

源域与目标域之间的同质性,或更一般地相似性,似乎对正向迁移学习至关重要。然而在实践中,相似性条件难以检验且常被违背。本文以看似相似性取代广泛使用的相似性条件,其由非正交性与光滑性共同定义。该条件在常见情形下自然满足,甚至在某些意义上意味着不相似。基于看似相似性及 L2L_2-调整,我们构建了源函数加权迁移学习估计(sw-TLE)。通过源函数加权,实现了自适应迁移学习:在相似与不相似情形下均能应用且估计效率较高。特别地,在源与目标模型同质的情形下,sw-TLE甚至可与全数据估计量竞争。我们亦建立了源函数加权估计量与 James-Stein 估计量之间的隐含关系,揭示了方法的结构合理性。此外,该策略可应用于非参数与半参数模型。综合模拟研究与真实数据分析表明新策略显著优于对比方法。

关键词

引用

@article{arxiv.2302.11222,
  title  = {Source-Function Weighted-Transfer Learning for Nonparametric Regression with Seemingly Similar Sources},
  author = {Lu Lin and Weiyu Li},
  journal= {arXiv preprint arXiv:2302.11222},
  year   = {2023}
}