面向多意图口语理解的协同引导
计算与语言
2023-12-08 v1 人工智能
摘要
近期基于图的多意图 SLU 模型通过对从意图预测到槽位填充解码的引导进行建模，取得了有希望的结果。然而，现有方法 (1) 仅对从意图到槽位的单向引导进行建模，而意图和槽位之间存在双向相互关联；(2) 采用同构图来建模槽位语义节点和意图标签节点之间的交互，这限制了性能。在本文中，我们提出了一种称为 Co-guiding Net 的新模型，它实现了一个两阶段框架，实现了两个任务之间的相互引导。在第一阶段，产生两个任务的初始估计标签，然后在第二阶段利用它们来建模相互引导。具体来说，我们提出了两个异构图注意力网络，在提出的两个异构语义标签图上工作，有效地表示了语义节点和标签节点之间的关系。此外，我们进一步提出了 Co-guiding-SCL Net，它利用单任务和双任务语义对比关系。对于第一阶段，我们提出了单任务监督对比学习，对于第二阶段，我们提出了协同引导监督对比学习，它在对比学习过程中考虑了两个任务的相互引导。在多意图 SLU 上的实验结果表明，我们的模型大幅优于现有模型，在 MixATIS 数据集上的总体准确率比之前的最佳模型相对提高了 21.3%。我们还在零样本跨语言场景下评估了我们的模型，结果表明，在总共 9 种语言中，我们的模型在总体准确率上平均可以相对改进 SOTA 模型 33.5%。
引用
@article{arxiv.2312.03716,
title = {Co-guiding for Multi-intent Spoken Language Understanding},
author = {Bowen Xing and Ivor W. Tsang},
journal= {arXiv preprint arXiv:2312.03716},
year = {2023}
}
备注
Accepted by IEEE Transactions on Pattern Analysis and Machine Intelligence (TPAMI). arXiv admin note: substantial text overlap with arXiv:2210.10375