PP-SSL:面向细粒度识别的优先-感知自监督学习
计算机视觉与模式识别
2024-12-03 v1
摘要
自监督学习在细粒度视觉识别中正在呈现出有前景的成果。然而,现有的自监督学习方法往往易受到自监督任务中不相关模式的干扰,缺乏代表细粒度视觉识别(FGVR)中微妙差异的能力,导致整体表现较差。为此,我们提出一种 novel Priority-Perception Self-Supervised Learning 框架,称为 PP-SSL,可有效过滤不相关特征干扰,并在训练过程中提取更微妙的判别特征。具体而言,PP-SSL 由两个主要组成部分构成:反干扰策略(Anti-Interference Strategy, AIS)和图像辅助区分模块(Image-Aided Distinction Module, IADM)。在 AIS 中,建立了细粒度文本描述语料库,并设计了知识蒸馏策略,以引导模型消除不相关特征,同时增强学习更具判别性和高质量特征的能力。IADM 揭示,从原始图像上提取 GradCAM 能有效揭示细粒度类别之间的细微差异。相较于从中间或输出层提取的特征,原始图像保留了更多细节,允许深入探索细粒度类别之间的细微区别。大量实验结果表明,PP-SSL 在 various 数据集上显著优于现有方法,凸显其在细粒度识别任务中的有效性。我们的 code 将在公开后提供。
引用
@article{arxiv.2412.00134,
title = {PP-SSL : Priority-Perception Self-Supervised Learning for Fine-Grained Recognition},
author = {ShuaiHeng Li and Qing Cai and Fan Zhang and Menghuan Zhang and Yangyang Shu and Zhi Liu and Huafeng Li and Lingqiao Liu},
journal= {arXiv preprint arXiv:2412.00134},
year = {2024}
}