具有不确定性感知上下文稳定器的像素级全局自监督学习
计算机视觉与模式识别
2022-10-04 v1 人工智能
摘要
我们开发了一种新颖的 SSL（自监督学习）方法，以捕获同一图像不同增强视图之间的全局一致性和像素级局部一致性，从而适应下游判别性和密集预测任务。我们采用了先前对比 SSL 方法中使用的教师-学生架构。在我们的方法中，全局一致性通过聚合同一图像增强视图的压缩表示来强制实现。像素级一致性通过在不同增强视图中追求同一像素的相似表示来强制实现。重要的是，我们引入了不确定性感知上下文稳定器，以自适应地保留由不同增强产生的两个视图所创建的上下文差距。此外，我们在稳定器中使用蒙特卡洛 dropout 来度量不确定性，并自适应地平衡不同视图中同一像素表示之间的差异。
引用
@article{arxiv.2210.00646,
title = {Pixel-global Self-supervised Learning with Uncertainty-aware Context Stabilizer},
author = {Zhuangzhuang Zhang and Weixiong Zhang},
journal= {arXiv preprint arXiv:2210.00646},
year = {2022}
}
备注
18 pages, 5 figures