自对比学习：基于子网络单视图监督对比框架
机器学习
2022-11-28 v6 人工智能
摘要
对比损失通过利用增强和标签信息的多视图框架，显著提升了监督分类任务的性能。增强使得单张图像的另一视图可用于对比，但增加了训练时间和内存占用。为了在发挥多视图优势的同时避免高昂的计算成本，我们引入了一种多出口架构，在单视图框架中输出单张图像的多个特征。为此，我们提出了自对比（SelfCon）学习，其在单一网络不同层级的多重输出内部进行自对比。该多出口架构高效地替代了多重增强图像，并利用网络不同层级的多种信息。我们证明了自对比学习提升了编码器网络的分类性能，并从单视图与子网络角度对其优势进行了实证分析。此外，我们基于互信息界提供了性能提升的理论依据。在 ResNet-50 上的 ImageNet 分类任务中，自对比学习以监督对比学习 59% 的内存和 48% 的时间将准确率提升 +0.6%，而多出口输出的简单集成可将性能进一步提升至 +1.5%。我们的代码已发布于 https://github.com/raymin0223/self-contrastive-learning。
引用
@article{arxiv.2106.15499,
title = {Self-Contrastive Learning: Single-viewed Supervised Contrastive Framework using Sub-network},
author = {Sangmin Bae and Sungnyun Kim and Jongwoo Ko and Gihun Lee and Seungjong Noh and Se-Young Yun},
journal= {arXiv preprint arXiv:2106.15499},
year = {2022}
}
备注
AAAI 2023