迁移与否:统一的可迁移性度量与分析
机器学习
2026-02-10 v1
摘要
在迁移学习中,可迁移性是最基本的问题之一,旨在评估任意迁移任务的有效性。现有研究聚焦于分类任务,忽视了域或任务的差异。更重要的是,缺乏关于判断是否应迁移的研究。为此,我们提出一种新的分析方法与度量——基于 Wasserstein 距离的联合估计(WDJE),用于在统一设定下(含域与任务差异的分类和回归问题)进行可迁移性估计与判定。WDJE 通过比较有迁移与无迁移时的目标风险,辅助决定是否迁移。为实现比较,我们提出了一种非对称、易理解且易计算的目标风险界来近似目标迁移风险,该界即便在目标标签有限时也可行。所提界将目标风险与源模型性能、基于 Wasserstein 距离的域与任务差异相关联。我们还将该界推广至无监督设定,并建立了有限经验样本的泛化界。我们在图像分类与剩余使用寿命回归预测上的实验表明了 WDJE 在判定是否迁移方面的有效性,以及所提界在近似目标迁移风险方面的有效性。
引用
@article{arxiv.2305.07741,
title = {To transfer or not transfer: Unified transferability metric and analysis},
author = {Qianshan Zhan and Xiao-Jun Zeng},
journal= {arXiv preprint arXiv:2305.07741},
year = {2026}
}