TriBYOL:用于自监督表示学习的三元组 BYOL
计算机视觉与模式识别
2022-06-08 v1 人工智能
摘要
本文提出一种新颖的自监督学习方法,以在小批量规模下学习更好的表示。许多基于某种形式孪生网络的自我监督学习方法已经出现并受到显著关注。然而,这些方法需要使用大批量规模来学习良好表示,且需要沉重的计算资源。我们提出一种新的三元组网络并结合三视图损失,以在小批量规模下提升自监督表示学习的性能。实验结果表明,我们的方法在小批量情况下于多个数据集上大幅优于最先进的自监督学习方法。我们的方法为使用小批量规模处理真实世界高分辨率图像的自监督学习提供了可行方案。
引用
@article{arxiv.2206.03012,
title = {TriBYOL: Triplet BYOL for Self-Supervised Representation Learning},
author = {Guang Li and Ren Togo and Takahiro Ogawa and Miki Haseyama},
journal= {arXiv preprint arXiv:2206.03012},
year = {2022}
}
备注
Published as a conference paper at ICASSP 2022