利用抽取式问答Transformer构建真实对话语料的意图全景
计算与语言
2022-08-31 v2 人工智能
机器学习
摘要
对于拥有客户服务的公司而言,在其对话数据中映射意图对于构建基于自然语言理解(NLU)的应用至关重要。然而,目前尚无成熟的自动化技术可从含噪声的在线聊天或语音转写文本中收集意图。简单的聚类方法不适用于意图稀疏的对话。为解决此意图全景任务,我们提出一种无监督流水线,从真实对话中抽取意图及意图分类体系。我们的流水线使用抽取式问答Electra模型挖掘意图片段候选,并利用句子嵌入进行底层密度聚类,随后进行顶层层次聚类。我们的结果展示了在SQuAD2数据集上微调的ELECTRA large模型理解对话的泛化能力。借助恰当的提示问题,该模型在意图片段上的语言验证率超过85%。我们进一步从MultiDoGo数据集中以平均94.3%的召回率重建了五个领域的意图方案。
引用
@article{arxiv.2208.12886,
title = {Building the Intent Landscape of Real-World Conversational Corpora with Extractive Question-Answering Transformers},
author = {Jean-Philippe Corbeil and Mia Taige Li and Hadi Abdi Ghavidel},
journal= {arXiv preprint arXiv:2208.12886},
year = {2022}
}