基于互信息正则化分配的的无监督视觉表征学习
计算机视觉与模式识别
2022-11-07 v1
摘要
本文提出互信息正则化分配（MIRA），一种受信息最大化启发、用于无监督表征学习的伪标注算法。我们将在线伪标注表述为一个优化问题，以寻找在最大化标签与数据之间互信息的同时接近给定模型概率的伪标签。我们推导出一种定点迭代方法，并证明其收敛至最优解。与基线方法相比，MIRA 结合伪标签预测实现了一种简单而有效的基于聚类的表征学习，无需引入额外的训练技巧或人为约束（如采样策略、等分割约束等）。在相对较少的训练轮数下，MIRA 学到的表征在包括线性/k-NN 评估与迁移学习在内的多种下游任务上取得了最先进的性能。特别地，仅用 400 轮，我们的方法在 ImageNet 数据集上以 ResNet-50 架构取得了 75.6% 的线性评估准确率。
引用
@article{arxiv.2211.02284,
title = {Unsupervised Visual Representation Learning via Mutual Information Regularized Assignment},
author = {Dong Hoon Lee and Sungik Choi and Hyunwoo Kim and Sae-Young Chung},
journal= {arXiv preprint arXiv:2211.02284},
year = {2022}
}
备注
NeurIPS 2022