TextConvoNet:一种基于卷积神经网络的文本分类架构
计算与语言
2022-03-11 v1 人工智能
机器学习
神经与进化计算
摘要
近年来,基于深度学习的模型显著改进了自然语言处理(NLP)任务。具体而言,最初用于计算机视觉的卷积神经网络(CNN)在各种NLP问题中对文本数据展现出了卓越性能。大多数现有基于CNN的模型使用一维卷积滤波器(n-gram检测器),其中每个滤波器专门提取特定输入词嵌入的n-gram特征。输入词嵌入(亦称句子矩阵)被视为一个矩阵,其中每一行是一个词向量。因此,它允许模型应用一维卷积并仅从句子矩阵中提取基于n-gram的特征。这些特征可称为句内n-gram特征。据我们所知,所有现有CNN模型均基于上述概念。在本文中,我们提出一种基于CNN的架构TextConvoNet,其不仅提取句内n-gram特征,还捕获输入文本数据中的句间n-gram特征。它使用一种替代的输入矩阵表示方式,并对输入施加二维多尺度卷积操作。为评估TextConvoNet的性能,我们在五个文本分类数据集上进行了实验研究。结果使用多种性能指标进行评估。实验结果表明,所提出的TextConvoNet在文本分类任务上优于SOTA机器学习与深度学习模型。
引用
@article{arxiv.2203.05173,
title = {TextConvoNet:A Convolutional Neural Network based Architecture for Text Classification},
author = {Sanskar Soni and Satyendra Singh Chouhan and Santosh Singh Rathore},
journal= {arXiv preprint arXiv:2203.05173},
year = {2022}
}