中文

你永不独自聚类

计算机视觉与模式识别 2022-01-24 v3 机器学习

摘要

近期基于实例级对比目标的无监督学习进展促进了无监督聚类。然而,孤立的数据点无法感知整体聚类的上下文,可能经历次优分配。本文中,我们将主流对比学习范式扩展至聚类级方案,其中归属于同一聚类的所有数据贡献于一个统一表示,该表示编码了每个数据组的上下文。以此表示进行的对比学习进而奖励每个数据点的分配。为实现该愿景,我们提出双对比聚类(TCC)。我们定义一组类别变量作为聚类分配置信度,将实例级学习轨迹与聚类级轨迹相联结。一方面,以相应分配变量为权重,沿数据点的加权聚合实现了聚类的集合表示。我们进一步提出启发式聚类增强等价操作以启用聚类级对比学习。另一方面,我们推导了带分配的实例级对比目标的证据下界。通过对分配变量重参数化,TCC以端到端方式训练,无需交替步骤。大量实验表明TCC在具有挑战性的基准上优于当前最优方法。

关键词

引用

@article{arxiv.2106.01908,
  title  = {You Never Cluster Alone},
  author = {Yuming Shen and Ziyi Shen and Menghan Wang and Jie Qin and Philip H. S. Torr and Ling Shao},
  journal= {arXiv preprint arXiv:2106.01908},
  year   = {2022}
}

备注

NeurIPS 2021