迈向广义多阶段聚类：多视图自蒸馏
计算机视觉与模式识别
2023-12-19 v2 人工智能
摘要
现有的多阶段聚类方法独立地从多个视图学习显著特征，然后执行聚类任务。特别地，多视图聚类（MVC）在多视图或多模态场景中引起了大量关注。MVC 旨在以自监督方式从多个视图探索共同语义与伪标签并进行聚类。然而，受限于噪声数据和不充分的特征学习，此类聚类范式生成过度自信的伪标签，误导模型产生不准确的预测。因此，期望有一种方法能在多阶段聚类中纠正这种伪标签误导以避免偏差累积。为缓解过度自信伪标签的影响并提升模型泛化能力，本文提出一种新颖的多阶段深度 MVC 框架，其中引入多视图自蒸馏（DistilMVC）来蒸馏标签分布的暗知识。具体而言，在不同层次的特征子空间中，我们通过对比学习探索多视图的共同语义，并通过最大化视图间互信息获得伪标签。此外，教师网络负责将伪标签蒸馏为暗知识，监督学生网络并提升其预测能力以增强鲁棒性。在真实多视图数据集上的大量实验表明，我们的方法比最先进方法具有更好的聚类性能。
引用
@article{arxiv.2310.18890,
title = {Towards Generalized Multi-stage Clustering: Multi-view Self-distillation},
author = {Jiatai Wang and Zhiwei Xu and Xin Wang and Tao Li},
journal= {arXiv preprint arXiv:2310.18890},
year = {2023}
}