中文

基于自适应最优传输生成可靠伪标签的短文本聚类鲁棒表示学习

计算与语言 2023-05-29 v1 人工智能 机器学习

摘要

短文本聚类具有挑战性,因为它以不平衡且含噪声的数据作为输入。现有方法不能很好地解决该问题,因为(1)它们容易在高度不平衡的数据集上获得退化解,且(2)它们易受噪声影响。为解决上述问题,我们提出一种鲁棒短文本聚类(RSTC)模型,以提升针对不平衡和噪声数据的鲁棒性。RSTC包含两个模块,即伪标签生成模块和鲁棒表示学习模块。前者生成伪标签为后者提供监督,有助于获得更鲁棒的表示和正确分离的簇。为提供针对数据不平衡的鲁棒性,我们在伪标签生成模块中提出自适应最优传输。为提高针对数据噪声的鲁棒性,我们在鲁棒表示学习模块中进一步引入类级和实例级对比学习。我们在八个短文本聚类数据集上的实证研究表明,RSTC显著优于最先进的模型。代码可在以下地址获取:https://github.com/hmllmh/RSTC。

关键词

引用

@article{arxiv.2305.16335,
  title  = {Robust Representation Learning with Reliable Pseudo-labels Generation via Self-Adaptive Optimal Transport for Short Text Clustering},
  author = {Xiaolin Zheng and Mengling Hu and Weiming Liu and Chaochao Chen and Xinting Liao},
  journal= {arXiv preprint arXiv:2305.16335},
  year   = {2023}
}