掩码孪生卷积网络
计算机视觉与模式识别
2022-06-16 v1 人工智能
机器学习
摘要
自监督学习在各类视觉基准上已展现出优于监督方法的性能。孪生网络通过鼓励嵌入对失真保持不变性，是最成功的自监督视觉表征学习方法之一。在所有增强方法中，掩码是最通用且直接的方法，有潜力应用于各类输入且所需领域知识最少。然而，掩码孪生网络需要特定的归纳偏置，且实际上仅在与 Vision Transformers 结合时表现良好。本工作实证研究了掩码孪生网络在卷积网络（ConvNets）背后的问题。我们提出若干实证设计以逐步克服这些问题。我们的方法在小样本图像分类上具竞争力，并在目标检测基准上优于先前方法。我们讨论了若干遗留问题，并希望本工作能为未来通用自监督学习提供有用的数据点。
引用
@article{arxiv.2206.07700,
title = {Masked Siamese ConvNets},
author = {Li Jing and Jiachen Zhu and Yann LeCun},
journal= {arXiv preprint arXiv:2206.07700},
year = {2022}
}