用于文本分类的神经注意力实体词袋模型
计算与语言
2019-09-11 v2 机器学习
摘要
本研究提出一种神经注意力实体词袋(Neural Attentive Bag-of-Entities)模型,这是一种利用知识库中的实体进行文本分类的神经网络模型。实体提供明确且无歧义的相关语义信号,有助于捕捉文本中的语义。我们将基于词典的简单高召回实体检测(用于在文档中检测实体)与一种新颖的神经注意力机制相结合,使模型能够聚焦于少量无歧义且相关的实体。我们使用两个标准文本分类数据集(即 20 Newsgroups 和 R8 数据集)以及一个基于问答游戏的热门事实型问答数据集测试了模型的有效性。结果表明,我们的模型在所有数据集上均取得了 SOTA 结果。所提出模型的源代码可在 https://github.com/wikipedia2vec/wikipedia2vec 在线获取。
引用
@article{arxiv.1909.01259,
title = {Neural Attentive Bag-of-Entities Model for Text Classification},
author = {Ikuya Yamada and Hiroyuki Shindo},
journal= {arXiv preprint arXiv:1909.01259},
year = {2019}
}
备注
Accepted to CoNLL 2019