面向图像分类任务的实用可迁移性估计

可迁移性估计是迁移学习中的基本问题，用于预测将源模型（或源任务）迁移至目标任务时的性能表现。近期的解析可迁移性度量已广泛用于源模型选择与多任务学习。一个主要挑战是如何使可迁移性估计在跨域跨任务设定下保持稳健。近期提出的 OTCE 分数借助在辅助任务上的迁移经验，同时考虑域差异与任务差异，解决了该问题，但这带来了效率开销。本工作中，我们提出一种称为 JC-NCE 分数的实用可迁移性度量，其显著提升了 OTCE 中任务差异估计的稳健性，从而免除了对辅助任务的需求。具体而言，我们通过求解以同时考虑样本距离与标签距离的地面代价的最优传输问题，建立源数据与目标数据间的联合对应，随后将匹配标签的负条件熵作为可迁移性分数计算。在数据集内与数据集间迁移设定下的大量验证表明，我们的 JC-NCE 分数分别比无辅助任务的 OTCE 版本高出 7% 与 12%，且平均而言也比其他现有可迁移性度量更为稳健。