基于知识增强注意力的深度短文本分类
计算与语言
2019-02-22 v1
摘要
短文本分类是自然语言处理（NLP）中的重要任务之一。与段落或文档不同，短文本由于缺少足够的上下文信息而更具歧义性，这给分类带来了巨大挑战。在本文中，我们从外部知识源检索知识以增强短文本的语义表示。我们将概念信息作为一种知识，并将其融入深度神经网络。为度量知识的重要性，我们引入注意力机制并提出基于知识增强注意力的深度短文本分类（STCKA）。我们利用面向短文本的概念（C-ST）注意力和面向概念集的概念（C-CS）注意力从两方面获取概念的权重。并借助概念信息对短文本进行分类。与传统方法不同，我们的模型像人类一样具有基于观察（即机器的训练数据）做出决策的内在能力，并更关注重要知识。我们还在四个公共数据集上针对不同任务进行了大量实验。实验结果和案例研究表明，我们的模型优于最先进（state-of-the-art）方法，证明了知识增强注意力的有效性。
引用
@article{arxiv.1902.08050,
title = {Deep Short Text Classification with Knowledge Powered Attention},
author = {Jindong Chen and Yizhou Hu and Jingping Liu and Yanghua Xiao and Haiyun Jiang},
journal= {arXiv preprint arXiv:1902.08050},
year = {2019}
}