基于注意力 RNN 与相似度矩阵 CNN 的 Freebase 问答
计算与语言
2018-05-29 v3 人工智能
机器学习
摘要
随着知识库（KBs）的快速增长，基于知识库的问题回答（即 KBQA）近年来受到极大关注。现有多数 KBQA 方法遵循所谓的编码器-比较框架。它们将问题与 KB 事实映射到共同嵌入空间，从而可便捷地计算问题向量与事实向量间的相似度。然而，这不可避免地丢失了原始词交互信息。为保留更多原始信息，我们提出一种基于相似度矩阵的卷积神经网络结合注意力循环神经网络（AR-SMCNN）模型，其利用 RNN 与 CNN 各自优势以捕获全面的分层信息。我们利用 RNN 的序列建模特性捕获语义级关联，并使用注意力机制同时追踪实体与关系。同时，我们利用基于相似度矩阵的双向池化 CNN，借助 CNN 对数据间空间关联建模的优势提取字面级词交互匹配。此外，我们提出了一种新的用于实体检测的启发式扩展方法，显著降低了噪声影响。我们的方法在 SimpleQuestion 基准上以准确率与效率均优于当前最优方法。
引用
@article{arxiv.1804.03317,
title = {Question Answering over Freebase via Attentive RNN with Similarity Matrix based CNN},
author = {Yingqi Qu and Jie Liu and Liangyi Kang and Qinfeng Shi and Dan Ye},
journal= {arXiv preprint arXiv:1804.03317},
year = {2018}
}
备注
The experiments need to improve and add strategy for multi-relation questions