通过直接对比学习防止不完全多视图聚类的维度崩溃
计算机视觉与模式识别
2023-03-23 v1 人工智能
摘要
不完全多视图聚类（IMVC）是一种无监督方法，其中基于对比学习的IMVC因其优异性能而受到关注。以往方法存在以下问题：1）在解决维度崩溃问题（即聚类过程中潜在特征仅在低维子空间中有效）时过度依赖额外的投影头。然而，投影头中的许多参数是不必要的。2）由于在同一特征上进行一致性学习和重构学习，恢复的视图包含不一致的私有信息，而无用的私有信息会误导公共语义的学习。为解决上述问题，我们提出了一种新颖的不完全多视图对比聚类框架。该框架直接优化潜在特征子空间，利用学习到的特征向量及其子向量进行重构学习和一致性学习，从而在不依赖投影头的情况下有效避免维度崩溃。由于重构损失和对比损失在不同的特征上执行，无用私有信息的不良影响得以降低。对于不完全数据，缺失信息通过跨视图预测机制恢复，不同视图的不一致信息通过最小条件熵丢弃，以进一步避免私有信息的影响。该方法在5个公开数据集上的大量实验结果表明，其达到了最先进的聚类结果。
引用
@article{arxiv.2303.12241,
title = {Preventing Dimensional Collapse of Incomplete Multi-View Clustering via Direct Contrastive Learning},
author = {Kaiwu Zhang and Shiqiang Du and Baokai Liu and Shengxia Gao},
journal= {arXiv preprint arXiv:2303.12241},
year = {2023}
}