可迁移性引导的跨域跨任务迁移学习
计算机视觉与模式识别
2024-03-01 v2 人工智能
机器学习
摘要
我们提出两种新颖的可迁移性度量F-OTCE（基于快速最优传输的条件熵）和JC-OTCE（联合对应OTCE），用于评估源模型（任务）能在多大程度上有益于目标任务的学习，并学习更具可迁移性的表征以用于跨域跨任务迁移学习。与需要辅助任务上评估经验可迁移性的现有度量不同，我们的度量是无辅助的，从而可以高效得多地计算。具体而言，F-OTCE通过首先求解源分布与目标分布之间的最优传输（OT）问题来估计可迁移性，然后利用最优耦合计算源标签与目标标签之间的负条件熵。它也可作为损失函数，在目标任务上微调之前最大化源模型的可迁移性。同时，JC-OTCE通过在OT问题中纳入标签距离来提升F-OTCE的可迁移性鲁棒性，尽管这可能带来额外的计算成本。大量实验表明，F-OTCE和JC-OTCE在与真实可迁移准确度的相关系数上分别优于最先进的无辅助度量18.85%和28.88%。通过消除辅助任务的训练成本，这两种度量将先前方法对一对任务的总计算时间从43分钟分别减少到9.32秒和10.78秒。当用作损失函数时，F-OTCE在小样本分类实验中显示出源模型迁移准确率的持续提升，最高达4.41%的准确率增益。
引用
@article{arxiv.2207.05510,
title = {Transferability-Guided Cross-Domain Cross-Task Transfer Learning},
author = {Yang Tan and Enming Zhang and Yang Li and Shao-Lun Huang and Xiao-Ping Zhang},
journal= {arXiv preprint arXiv:2207.05510},
year = {2024}
}
备注
This work is accepted by IEEE TNNLS. Please see the official version https://ieeexplore.ieee.org/abstract/document/10420486.Copyright may be transferred without notice, after which this version may no longer be accessible