掩码提升卷积网络对比自监督学习,且显著性指示掩码位置
计算机视觉与模式识别
2024-06-11 v2 人工智能
机器学习
摘要
尽管得益于分词流程与视觉Transformer骨干的引入,图像数据开始享有基于掩码与自重建目标构建的简洁而有效的自监督学习方案,但卷积神经网络作为图像数据中另一重要且被广泛采用的架构,虽有对比学习技术驱动自监督学习,仍难以利用这种直接且通用的掩码操作显著裨益其学习过程。本文旨在将掩码操作作为额外增强方法纳入卷积神经网络对比学习框架时减轻其负担。除先前工作已讨论的掩码操作给卷积网络带来的掩码与未掩码区域间附加的非期望边缘及其他不利影响外,我们特别指出一个潜在问题:对于对比样本对中的某一视图,随机采样的掩码区域可能过度集中于重要/显著物体,从而对另一视图造成误导性的对比性。为此,我们提出显式考虑显著性约束,使掩码区域在前景与背景间更均匀分布,以实现基于掩码的增强。此外,我们通过掩码输入图像中较大区域的显著块来引入难负样本。在多个数据集、对比学习机制及下游任务上开展的广泛实验,充分验证了我们所提方法相对于若干最先进基线的有效性与优越性能。
引用
@article{arxiv.2309.12757,
title = {Masking Improves Contrastive Self-Supervised Learning for ConvNets, and Saliency Tells You Where},
author = {Zhi-Yi Chin and Chieh-Ming Jiang and Ching-Chun Huang and Pin-Yu Chen and Wei-Chen Chiu},
journal= {arXiv preprint arXiv:2309.12757},
year = {2024}
}
备注
WACV 2024. Source code is available at: https://github.com/joycenerd/Saliency-Guided-Masking-for-ConvNets