面向分段常数均值估计的迁移学习：最优性、$\ell_1$ 与 $\ell_0$ 惩罚
统计方法学
2024-07-30 v4 统计理论
统计理论
摘要
我们研究在除目标数据外还可获得可能相关但相异的源数据时，用于估计分段常数信号的迁移学习。我们首先考察分别采用 与 惩罚处理单源数据场景的迁移学习估计量，进而将这些估计量推广至多源情形。为进一步降低估计误差，尤其当某些源与目标差异显著时，我们引入一种信息源选择算法。随后我们结合多源选择考察这些估计量并建立其极小极大最优性。与迁移学习文献中通常通过增大源样本量来提升性能的普遍叙述不同，我们的方法利用更高的观测频率，并适应多源间不同的频率。我们的理论发现得到大量数值实验的支持，相关代码已在线提供，见 https://github.com/chrisfanwang/transferlearning
引用
@article{arxiv.2310.05646,
title = {Transfer learning for piecewise-constant mean estimation: Optimality, $\ell_1$- and $\ell_0$-penalisation},
author = {Fan Wang and Yi Yu},
journal= {arXiv preprint arXiv:2310.05646},
year = {2024}
}