面向看似相似源的非参数回归源函数加权迁移学习
统计方法学
2023-02-23 v1
摘要
源域与目标域之间的同质性,或更一般地相似性,似乎对正向迁移学习至关重要。然而在实践中,相似性条件难以检验且常被违背。本文以看似相似性取代广泛使用的相似性条件,其由非正交性与光滑性共同定义。该条件在常见情形下自然满足,甚至在某些意义上意味着不相似。基于看似相似性及 -调整,我们构建了源函数加权迁移学习估计(sw-TLE)。通过源函数加权,实现了自适应迁移学习:在相似与不相似情形下均能应用且估计效率较高。特别地,在源与目标模型同质的情形下,sw-TLE甚至可与全数据估计量竞争。我们亦建立了源函数加权估计量与 James-Stein 估计量之间的隐含关系,揭示了方法的结构合理性。此外,该策略可应用于非参数与半参数模型。综合模拟研究与真实数据分析表明新策略显著优于对比方法。
引用
@article{arxiv.2302.11222,
title = {Source-Function Weighted-Transfer Learning for Nonparametric Regression with Seemingly Similar Sources},
author = {Lu Lin and Weiyu Li},
journal= {arXiv preprint arXiv:2302.11222},
year = {2023}
}