利用潜变量发现新意图
计算与语言
2022-10-24 v1
摘要
发现新意图对建立 Bootstrapped 任务型对话系统具有重要意义。大多数现有方法要么缺乏迁移已知意图数据中先验知识的能力, 要么在后续中陷入遗忘先验知识的困境。更重要的是, 这些方法未深入探索无标签数据的内在结构, 因而无法找出使一个意图得以成立的通用特征。本文从“发现意图有助于已知意图的识别”这一直觉出发, 提出一种将意图指派视为潜变量的发现意图概率框架。我们采用期望最大化框架进行优化。具体地, 在 E 步, 我们通过意图指派的后验来发现意图并探索无标签数据的内在结构; 在 M 步, 我们通过优化有标签数据的判别性来缓解从已知意图迁移的先验知识的遗忘。在三个具有挑战性的真实数据集上的大量实验表明, 我们的方法能取得实质性提升。
引用
@article{arxiv.2210.11804,
title = {Discovering New Intents Using Latent Variables},
author = {Yunhua Zhou and Peiju Liu and Yuxin Wang and Xipeng QIu},
journal= {arXiv preprint arXiv:2210.11804},
year = {2022}
}