中文

关注近邻:一种用于 OOD 意图发现的统一 K 近邻对比学习框架

计算与语言 2022-10-18 v1

摘要

发现域外(OOD)意图对于任务型对话系统开发新技能至关重要。关键挑战在于如何将先验域内(IND)知识迁移至 OOD 聚类,以及联合学习 OOD 表示与聚类分配。已有方法存在域内过拟合问题,且表示学习与聚类目标间存在天然鸿沟。本文提出一种统一的 K 近邻对比学习框架以发现 OOD 意图。具体地,在 IND 预训练阶段,我们提出 KCL 目标以学习类间判别特征,同时保持类内多样性,从而缓解域内过拟合问题。在 OOD 聚类阶段,我们提出 KCC 方法,通过挖掘真实难负样本形成紧凑簇,弥合聚类与表示学习间的鸿沟。在三个基准数据集上的大量实验表明,我们的方法相较 SOTA 方法取得了显著改进。

关键词

引用

@article{arxiv.2210.08909,
  title  = {Watch the Neighbors: A Unified K-Nearest Neighbor Contrastive Learning Framework for OOD Intent Discovery},
  author = {Yutao Mou and Keqing He and Pei Wang and Yanan Wu and Jingang Wang and Wei Wu and Weiran Xu},
  journal= {arXiv preprint arXiv:2210.08909},
  year   = {2022}
}

备注

Accepted at EMNLP2022 main conference