面向无对比度应用的混合自监督学习
计算机视觉与模式识别
2022-04-05 v1
摘要
对比自监督学习近期吸引了大量研究关注。它通过将同一图像增强视图的嵌入彼此拉近、同时推远不同图像嵌入的方式，从未标注数据中学习有效视觉表示。尽管在 ImageNet 分类、COCO 目标检测等任务上取得巨大成功，其在无对比度应用（如医学图像分类，其中所有图像彼此视觉相似）上的性能会下降。这在优化嵌入空间时造成困难，因为图像间距离相当小。为解决此问题，我们提出了首个面向无对比度应用的混合(mix-up)自监督学习框架。我们基于跨域 mix-up 解决图像间的低方差问题，并基于两个协同目标构建预训练任务：图像重建与透明度预测。在两个基准数据集上的实验结果验证了方法的有效性，相比现有自监督学习方法取得了 2.5% ~ 7.4% 的 top-1 准确率提升。
引用
@article{arxiv.2204.00901,
title = {Mix-up Self-Supervised Learning for Contrast-agnostic Applications},
author = {Yichen Zhang and Yifang Yin and Ying Zhang and Roger Zimmermann},
journal= {arXiv preprint arXiv:2204.00901},
year = {2022}
}
备注
Accepted by ICME 2021