基于伪标签增强的原型对比学习用于统一意图发现
计算与语言
2024-10-29 v1
摘要
新的意图发现是面向任务的对话系统的关键能力。现有方法侧重通过预训练和聚类阶段将类内（IND）先验知识传递到类外（OOD）数据。它们要么以流水线方式处理这两个过程，导致意图表示与聚类过程之间存在鸿沟，要么使用典型的对比聚类，忽略了整个数据中潜在的监督信号。此外，它们常常分别处理开放意图发现或 OOD 设置。为此，我们提出了一个基于伪标签增强的原型对比学习（PLPCL）模型，用于统一意图发现。我们不断利用伪标签来探索潜在的正/负样本以进行对比学习，并弥合表示与聚类之间的差距。为实现更好的知识传递，我们设计了一种将 IND 和 OOD 样本的监督信号和伪信号相结合的原型学习方法。此外，我们的方法在两种不同的新意图发现设置下均被证明有效。在三个基准数据集和两个任务设置上的实验表明了我们方法的有效性。
引用
@article{arxiv.2410.20219,
title = {Pseudo-Label Enhanced Prototypical Contrastive Learning for Uniformed Intent Discovery},
author = {Yimin Deng and Yuxia Wu and Guoshuai Zhao and Li Zhu and Xueming Qian},
journal= {arXiv preprint arXiv:2410.20219},
year = {2024}
}
备注
Accepted by EMNLP 2024 Findings