结合距离感知对比学习增强信息最大化的无源跨域少样本学习
计算机视觉与模式识别
2024-03-05 v1
摘要
现有的跨域少样本学习(CDFSL)方法需要在预训练阶段访问源域数据来训练模型。然而，由于对数据隐私的日益关注以及降低数据传输和训练成本的期望，有必要开发一种无需访问源数据的 CDFSL 解决方案。出于这个原因，本文探讨了无源 CDFSL (SF-CDFSL) 问题，其中通过使用现有的预训练模型而不是用源数据训练模型来解决 CDFSL，从而避免访问源数据。本文提出了一种结合距离感知对比学习的增强信息最大化(IM-DCL)方法来应对这些挑战。首先，我们引入了用于学习查询集的直推机制。其次，探索信息最大化(IM)，将目标样本映射到个体确定性和全局多样性预测中，帮助源模型更好地拟合目标数据分布。然而，IM 无法学习目标任务的决策边界。这促使我们引入一种称为距离感知对比学习(DCL)的新方法，其中我们将整个特征集同时视为正集和负集，类似于薛定谔的二态概念。我们不是在正负集之间进行刚性分离，而是采用特征之间的加权距离计算，为整个特征集建立正负集的软分类。此外，我们通过在对象特征及其对应的正负集之间引入对比约束，解决了与 IM 相关的问题。在 BSCD-FSL 基准的 4 个数据集上的评估表明，所提出的 IM-DCL 在不访问源域的情况下，表现出优于现有方法的性能，特别是在远域任务中。
引用
@article{arxiv.2403.01966,
title = {Enhancing Information Maximization with Distance-Aware Contrastive Learning for Source-Free Cross-Domain Few-Shot Learning},
author = {Huali Xu and Li Liu and Shuaifeng Zhi and Shaojing Fu and Zhuo Su and Ming-Ming Cheng and Yongxiang Liu},
journal= {arXiv preprint arXiv:2403.01966},
year = {2024}
}
备注
Accepted by TIP, 16 pages, 11 figures, 8 tables