面向少样本意图分类与槽位填充的表示与知识解耦
计算与语言
2023-12-22 v1 人工智能
摘要
由于细粒度标注数据的稀缺，少样本意图分类与槽位填充是重要且具挑战性的任务。因此，当前的工作首先在具有充足标注数据的源域上训练模型，然后将模型迁移到仅有少量标注数据的目标域。然而，整体的经验迁移通常会受源域与目标域之间存在的差异影响。例如，迁移与领域特定知识相关的经验非常困难。为了解决这个问题，我们提出了一种新方法，显式地将与通用语义表示相关的经验迁移和与领域特定知识相关的经验迁移解耦。具体而言，对于与领域特定知识相关的经验，我们设计了两个模块来分别捕获意图-槽位关系和槽位-槽位关系。在 Snips 和 FewJoint 数据集上的大量实验表明，我们的方法达到了 SOTA 性能。该方法在 1-shot 设置下将联合准确率指标从 27.72% 提升至 42.20%，在 5-shot 设置下从 46.54% 提升至 60.79%。
引用
@article{arxiv.2312.13495,
title = {Decoupling Representation and Knowledge for Few-Shot Intent Classification and Slot Filling},
author = {Jie Han and Yixiong Zou and Haozhao Wang and Jun Wang and Wei Liu and Yao Wu and Tao Zhang and Ruixuan Li},
journal= {arXiv preprint arXiv:2312.13495},
year = {2023}
}
备注
9 pages, 4 figures