关于自监督模型中空间增强技术的分析：从训练分布到测试分布
计算机视觉与模式识别
2024-09-30 v1
摘要
本文present了对自监督表征学习方法中常用空间增强技术（即随机裁剪和遮挡）的实证研究。我们的贡献包括：（a）将随机裁剪解耦为两个独立的增强，叠加区域和补丁，并对重叠面积和补丁大小对下游任务准确率的影响进行详细分析。（b）我们洞察了为何遮挡增强在学习表征方面不佳，这一现象在早期文献中已报道。最后，基于这些分析，（c）我们为学习场景中心表征提出距离基准的边际，用于下游任务中对象中心分布，表明仅通过一个与场景中两个空间视图之间像素距离成正比的边际，即可提高所学表征。我们的研究进一步理解了空间增强及其训练增强分布与测试分布之间域间隙的影响。
引用
@article{arxiv.2409.18228,
title = {Analysis of Spatial augmentation in Self-supervised models in the purview of training and test distributions},
author = {Abhishek Jha and Tinne Tuytelaars},
journal= {arXiv preprint arXiv:2409.18228},
year = {2024}
}
备注
Accepted in ECCV 2024 Workshop on Out-of-distribution generalization in computer vision (OOD-CV)