告别互信息：面向跨模态行人重识别的变分蒸馏
计算机视觉与模式识别
2022-12-27 v2
摘要
信息瓶颈（IB）为表示学习提供了一种信息论原理，即保留与预测标签相关的所有信息，同时最小化冗余。尽管 IB 原理已应用于广泛的问题，其优化仍是一个极具挑战的问题，严重依赖于互信息的准确估计。在本文中，我们提出一种新策略，变分自蒸馏（VSD），它提供了一种可扩展、灵活且解析的方案，从根本上拟合互信息而无需显式估计它。在严格的理论保证下，VSD 使 IB 能够在有监督训练中掌握表示与标签之间的内在关联。此外，通过将 VSD 扩展到多视图学习，我们引入了另外两种策略，变分跨蒸馏（VCD）和变分互学习（VML），它们通过消除视图特定和任务无关信息，显著提升了表示对视图变化的鲁棒性。为验证我们理论支撑的策略，我们将方法应用于跨模态行人重识别，并进行了大量实验，展示出优于最先进方法的性能。我们引人深思的发现凸显了重新思考互信息估计方式的必要性。
引用
@article{arxiv.2104.02862,
title = {Farewell to Mutual Information: Variational Distillation for Cross-Modal Person Re-Identification},
author = {Xudong Tian and Zhizhong Zhang and Shaohui Lin and Yanyun Qu and Yuan Xie and Lizhuang Ma},
journal= {arXiv preprint arXiv:2104.02862},
year = {2022}
}
备注
Accepted by CVPR 2022 as Oral presentation