Fake & Square：使用合成数据和合成硬负样本训练自监督 Vision Transformer
计算机视觉与模式识别
2025-09-03 v1 人工智能
摘要
本文并未引入新方法,而是从已有的视觉自监督学习方法中汲取灵感,借鉴“假装再做到”的哲学。尽管对比式自监督学习取得了显著成功,但通常依赖大量真实数据和精心挑选的硬负样本。为探索这些要求的替代方案,我们研究了两种“假装”方式。首先,我们研究生成模型用于无监督表示学习的潜力,利用合成数据增强样本多样性。其次,我们检验在表示空间中生成合成硬负样本的可行性,创建多样且具挑战性的对比。我们提出的框架称为 Syn2Co,综合两种方法并评估合成增强训练是否导致更稳健和可迁移的视觉表示。我们的发现凸显了合成数据在自监督学习中的前景与局限,为该方向的未来工作提供了见解。
引用
@article{arxiv.2509.02029,
title = {Fake & Square: Training Self-Supervised Vision Transformers with Synthetic Data and Synthetic Hard Negatives},
author = {Nikolaos Giakoumoglou and Andreas Floros and Kleanthis Marios Papadopoulos and Tania Stathaki},
journal= {arXiv preprint arXiv:2509.02029},
year = {2025}
}
备注
ICCV 2025 Workshop LIMIT