对比损失的有趣性质

我们研究了对比学习的三个有趣性质。首先，我们将标准对比损失推广到一个更宽泛的损失族，并发现广义损失的多种实例化在多层非线性投影头存在下表现相似。其次，我们研究基于实例的对比学习（使用全局图像表示）是否能在包含多个物体的图像上良好学习。我们发现，尽管这些目标函数作用于全局实例级特征，仍有意义的分层局部特征可以被学到。最后，我们研究了在增强视图间共享的竞争特征之间的特征抑制现象，例如“颜色分布”与“物体类别”。我们构建了具有显式且可控竞争特征的数据集，并表明对于对比学习，少量易学的共享特征可以抑制甚至完全阻止其他竞争特征集合的学习。在图像中存在多个物体的场景中，主导物体会抑制较小物体的学习。现有对比学习方法严重依赖数据增强来偏好某些特征集合而非其他，并可能在现有增强无法完全解决特征抑制的场景中遭遇学习饱和。这对现有对比学习技术提出了开放性挑战。