用于视觉表征学习的互对比学习
计算机视觉与模式识别
2022-01-19 v2
摘要
我们提出一种称为互对比学习（MCL）的协作学习方法，用于通用视觉表征学习。MCL的核心思想是在一组网络之间执行对比分布的相互作用与传递。MCL的一个关键组件是交互式对比学习（ICL）。与原始对比学习相比，ICL能够聚合跨网络嵌入信息并最大化两网络间互信息的下界。这使得每个网络能从其他网络学习额外的对比知识，从而为视觉识别任务带来更好的特征表征。我们强调所得MCL在概念上简单但在经验上强大。它是一个通用框架，可应用于监督与自监督表征学习。在图像分类及迁移至目标检测上的实验结果表明，MCL能带来一致的性能提升，证明MCL可引导网络生成更好的特征表征。代码见 https://github.com/winycg/MCL。
引用
@article{arxiv.2104.12565,
title = {Mutual Contrastive Learning for Visual Representation Learning},
author = {Chuanguang Yang and Zhulin An and Linhang Cai and Yongjun Xu},
journal= {arXiv preprint arXiv:2104.12565},
year = {2022}
}
备注
9 pages, AAAI-2022