用于文档分类的分层注意力混合神经网络
计算与语言
2019-10-15 v2 人工智能
机器学习
神经与进化计算
摘要
文档分类是一项具有重要作用且充满挑战的任务。针对该问题的深度学习方法近期受到了广泛关注。尽管取得了一定进展,但现有提出的模型并未在架构中有效融入文档结构知识,也未考虑词语和句子的上下文重要性。本文提出了一种基于卷积神经网络、门控循环单元和注意力机制组合的新方法,用于文档分类任务。本工作的主要贡献是利用卷积层通过分层表示提取更具意义、更具泛化性和更抽象的特征。本文提出的方法改进了当前基于注意力方法的文档分类结果。
引用
@article{arxiv.1901.06610,
title = {Hierarchical Attentional Hybrid Neural Networks for Document Classification},
author = {Jader Abreu and Luis Fred and David Macêdo and Cleber Zanchettin},
journal= {arXiv preprint arXiv:1901.06610},
year = {2019}
}
备注
Paper accepted at International Conference on Artificial Neural Networks - ICANN 2019