检验迁移学习的充分性
统计方法学
2023-04-13 v1
摘要
现代统计分析常遇到高维模型但样本量有限的情形。这使得基于目标数据的统计估计非常困难。那么如何借助另一大规模源数据的信息以获得更精确的目标模型估计成为一个有趣的问题。这引出了迁移学习的有用思想。近期已发展出多种相关估计方法。本工作中，我们从不同视角研究迁移学习。具体地，我们考虑检验迁移学习充分性的问题。所谓迁移学习充分性（记为零假设），是指借助源数据，目标数据特征向量中所包含的有用信息可被充分提取以预测感兴趣的目标响应。因此，拒绝零假设意味着对预测有用的信息仍留存于目标数据的特征向量中，从而需要进一步探索。为此，我们发展了一种新颖的检验过程及一个集中化与标准化的检验统计量，其渐近零分布被解析导出。呈现模拟研究以展示所提方法的有限样本性能。给出一个深度学习相关的真实数据示例用于说明。
引用
@article{arxiv.2304.05636,
title = {Testing Sufficiency for Transfer Learning},
author = {Ziqian Lin and Yuan Gao and Feifei Wang and Hansheng Wang},
journal= {arXiv preprint arXiv:2304.05636},
year = {2023}
}