一种基于注意力的词级交互模型：面向知识库问答的关系检测
计算与语言
2018-01-31 v1
摘要
由于问题中关系表达的高度多样性，关系检测在知识库问答（KBQA）中起着关键作用。传统的深度学习方法遵循编码-比较范式，将问题与候选关系表示为向量以比较其语义相似度。最大或平均池化操作将词序列压缩为固定维向量，成为信息的瓶颈。本文提出学习问题与关系之间基于注意力的词级交互以缓解该瓶颈问题。类似于传统模型，问题与关系首先被表示为向量序列。然后，不是用池化操作将序列合并为单一向量，而是学习问题中词与关系中词之间的软对齐。随后用卷积神经网络（CNN）比较对齐的词，并最终合并比较结果。通过在低层表示上执行比较，基于注意力的词级交互模型（ABWIM）缓解了在比较前将序列合并为固定维向量所导致的信息损失问题。在SimpleQuestions和WebQuestions数据集上关系检测的实验结果表明，ABWIM取得了最先进的准确率，证明了其有效性。
关键词
引用
@article{arxiv.1801.09893,
title = {An Attention-Based Word-Level Interaction Model: Relation Detection for Knowledge Base Question Answering},
author = {Hongzhi Zhang and Guandong Xu and Xiao Liang and Tinglei Huang and Kun fu},
journal= {arXiv preprint arXiv:1801.09893},
year = {2018}
}
备注
Paper submitted to Neurocomputing at 11.12.2017