CRNN:用于冗余检测的联合神经网络
计算与语言
2017-06-06 v1
摘要
本文提出了一种用于监督句子分类中冗余检测的新框架。不同于传统的单一神经网络,我们的模型将字符感知卷积神经网络(Char-CNN)与字符感知循环神经网络(Char-RNN)结合,构成卷积循环神经网络(CRNN)。我们的模型得益于 Char-CNN,仅选择显著特征并输入到集成的 Char-RNN 中。Char-RNN 通过精细的更新机制有效学习长序列语义。我们在四个流行的基准语料库上将我们的框架与最先进的文本分类算法进行了比较。例如,我们的模型在 Google-news 数据集上取得了具竞争力的精确率、召回率和 F1 分数。对于 twenty-news-groups 数据流,我们的算法在精确率、召回率和 F1 分数上均取得最优值。对于 Brown Corpus,我们的框架获得了最佳 F1 分数,以及与最优竞争者几乎等同的精确率和召回率。对于问题分类数据集,CRNN 产生了最优召回率和 F1 分数,以及可比的精确率。我们还分析了三种不同 RNN 隐藏循环单元对性能的影响及其运行时效率。我们观察到 MGU 实现了最优运行时间,且与 GRU 和 LSTM 相比具有可比的性能。对于基于 TFIDF 的算法,我们实验了 word2vec、GloVe 和 sent2vec 嵌入并报告了它们的性能差异。
引用
@article{arxiv.1706.01069,
title = {CRNN: A Joint Neural Network for Redundancy Detection},
author = {Xinyu Fu and Eugene Ch'ng and Uwe Aickelin and Simon See},
journal= {arXiv preprint arXiv:1706.01069},
year = {2017}
}
备注
Conference paper accepted at IEEE SMARTCOMP 2017, Hong Kong