面向多语言意图分类的多层集成技术
计算与语言
2018-06-22 v1
摘要
在本文中，我们确定了多层集成如何提升多语言意图分类的性能。我们提出了一种新颖的多层集成方法，该方法同时对不同的模型初始化和不同的模型架构进行集成。我们还引入了一个新的银行领域数据集，并将结果与标准 ATIS 数据集和中文 SMP2017 数据集进行比较，以确定在多语言和多领域语境下的集成性能。我们在全部三个数据集上进行了集成实验，并得出结论：集成带来了显著的性能提升，且多层集成是一种无风险提升意图分类性能的方法。我们还发现，由简单模型组成的多样化集成可以达到与复杂得多的 SOTA 模型相媲美的性能。我们在 ATIS、Banking 和 SMP 上的最佳 F1 分数分别为 97.54%、91.79% 和 93.55%，与 ATIS 上的 SOTA 以及 SMP2017 竞赛的最佳提交结果相当。我们实现的集成性能提升分别为 0.23%、1.96% 和 4.04% 的 F1。
引用
@article{arxiv.1806.07914,
title = {Multi-Layer Ensembling Techniques for Multilingual Intent Classification},
author = {Charles Costello and Ruixi Lin and Vishwas Mruthyunjaya and Bettina Bolla and Charles Jankowski},
journal= {arXiv preprint arXiv:1806.07914},
year = {2018}
}