一种用于文本分类的新型 BGCapsule 网络

即使是对于现代深度学习网络，情感分析、新闻分类、多标签分类和意见分类等几种文本分类任务也是具有挑战性的问题。最近，胶囊网络（CapsNets）被提出用于图像分类。结果表明，与卷积神经网络（CNN）相比，CapsNets 具有若干优势，但它们在文本领域的有效性却鲜少被探索。在本文中，我们提出了一种新型混合架构，即 BGCapsule，它是一个以双向门控循环单元（BiGRU）集合作为前置的胶囊模型，用于多种文本分类任务。我们在主胶囊层之前采用双向 GRU 集合作为特征提取层。该混合架构在执行基本预处理步骤后，由五层组成：基于 GloVe 的嵌入层、基于 BiGRU 的集合层、主胶囊层、展平层以及全连接 ReLU 层，最后是全连接 softmax 层。为了评估 BGCapsule 的有效性，我们在五个基准数据集（从 10,000 条到 700,000 条记录不等）上进行了广泛实验，包括 Movie Review (MR Imdb 2005)、AG News 数据集、Dbpedia 本体数据集、Yelp Review Full 数据集和 Yelp review polarity 数据集。这些基准涵盖了新闻分类、情感分析、多类分类、多标签分类和意见分类等多种文本分类任务。我们发现，与现有方法相比，我们提出的架构（BGCapsule）在没有任何外部语言知识（如积极情感关键词和消极情感关键词）的帮助下实现了更好的准确率。此外，与其他现有技术相比，BGCapsule 收敛得更快。