高维网络卷积回归模型下的迁移学习
机器学习
2025-04-30 v2 统计方法学
摘要
迁移学习通过利用来自相关域的知识来增强模型性能，尤其在标注数据稀缺时效果显著。虽然已有研究在独立设置下处理各种分布迁移，但在处理网络数据中的依赖关系方面仍具挑战。为此，我们基于网络卷积回归(NCR)提出了高维迁移学习框架，灵感来源于图卷积网络(GCN)的成功经验。NCR 模型通过允许每个节点的响应依赖于其特征以及其邻居的聚合特征，从而有效捕获局部依赖关系。我们的 метод论包括两个步骤的迁移学习算法，用于处理源域与目标域之间的分布迁移，以及一种源域检测机制以识别信息丰富的域。理论上，我们基于 Erdos-Renyi 模型假设，对 lasso 估计器进行分析，表明在信息丰富源域存在时，迁移学习可改善收敛速度。经验评估包括仿真实验以及针对新浪微博数据的实际应用，结果在目标域标注数据有限时显示出显著的预测精度提升。
引用
@article{arxiv.2504.19979,
title = {Transfer Learning Under High-Dimensional Network Convolutional Regression Model},
author = {Liyuan Wang and Jiachen Chen and Kathryn L. Lunetta and Danyang Huang and Huimin Cheng and Debarghya Mukherjee},
journal= {arXiv preprint arXiv:2504.19979},
year = {2025}
}