基于多策略重平衡的终身意图检测
计算与语言
2021-08-11 v1
摘要
传统的意图检测模型通常离线训练，这依赖于固定的数据集和预定义的意图类别集。然而，在现实世界的应用中，在线系统通常涉及不断涌现的新用户意图，这对离线训练范式构成了巨大挑战。最近，终身学习受到越来越多的关注，并被认为是应对这一挑战的最有希望的解决方案。在本文中，我们提出了终身意图检测，它在新数据上持续训练意图检测模型以学习新出现的意图，同时避免灾难性地遗忘旧数据。然而，我们发现现有的终身学习方法在 LID 任务中通常在旧数据和新数据之间存在严重的不平衡。因此，我们提出了一种新颖的终身学习方法，多策略重平衡，它由余弦归一化、分层知识蒸馏和类间边际损失组成，以缓解不平衡问题的多重负面影响。实验结果证明了我们方法的有效性，它在 ATIS、SNIPS、HWU64 和 CLINC150 基准上显著优于先前最先进的终身学习方法。
引用
@article{arxiv.2108.04445,
title = {Lifelong Intent Detection via Multi-Strategy Rebalancing},
author = {Qingbin Liu and Xiaoyan Yu and Shizhu He and Kang Liu and Jun Zhao},
journal= {arXiv preprint arXiv:2108.04445},
year = {2021}
}