面向对话意图归纳的多阶段由粗到细对比学习
计算与语言
2023-03-10 v1
摘要
意图识别对任务型对话系统至关重要。然而,对于新兴领域与新服务,由于数据标注耗时且模型可迁移性较差,难以准确识别对话的关键意图。因此,对话意图的自动归纳对智能对话系统十分重要。本文给出我们针对第十一届对话系统技术挑战赛(DSTC11)任务型对话对话意图归纳赛道 2 的解决方案。意图聚类的本质在于区分不同对话语句的表示。自动意图归纳的关键在于,对任意给定的新数据集,模型所获句子表示能很好地与不同标签区分开。因此,我们提出一种多阶段由粗到细对比学习模型训练方案,包括无监督对比学习预训练、有监督对比学习预训练,以及对比学习与聚类联合微调,以获得更优的面向聚类任务的对话语句表示模型。在发布的 DSTC11 赛道 2 评估结果中,我们所提系统在该赛道两个子任务上均排名第一。
引用
@article{arxiv.2303.05034,
title = {Multi-Stage Coarse-to-Fine Contrastive Learning for Conversation Intent Induction},
author = {Caiyuan Chu and Ya Li and Yifan Liu and Jia-Chen Gu and Quan Liu and Yongxin Ge and Guoping Hu},
journal= {arXiv preprint arXiv:2303.05034},
year = {2023}
}
备注
Ranked 1st on Track 2 at DSTC 11, Accepted by DSTC 11 Workshop