从记忆中学习：非参数记忆增强的自监督视觉特征学习
计算机视觉与模式识别
2024-07-26 v1 机器学习
摘要
本文提出一种新方法，通过利用所见概念的非参数记忆来提高自监督学习（SSL）方法的训练稳定性。该方法涉及将记忆组件增强到神经网络中，以随机方式将当前图像视图与以前遇到的概念进行比较。此外，我们引入了随机记忆模块来正则化训练并强制图像视图之间的一致性。我们在众多视觉任务上对该方法进行了广泛基准测试，包括线性探测、迁移学习、低样本分类和图像检索。实验结果总结了该方法在无需额外正则化器的情况下实现稳定 SSL 训练、学习高度可迁移的表征并节省计算时间和资源的有效性。
引用
@article{arxiv.2407.17486,
title = {Learning from Memory: Non-Parametric Memory Augmented Self-Supervised Learning of Visual Features},
author = {Thalles Silva and Helio Pedrini and Adín Ramírez Rivera},
journal= {arXiv preprint arXiv:2407.17486},
year = {2024}
}
备注
To appear in ICML 2024. Code at https://github.com/sthalles/MaSSL