面向知识库问答的深度学习架构选择评估
计算与语言
2018-12-14 v2 人工智能
摘要
近年来,基于知识库的自然语言问答任务受到了广泛关注。针对该任务已提出多种深度学习架构。然而,架构设计选择通常未在同一条件下进行系统比较或评估。在本文中,我们通过在同一条件下评估四种不同架构,增进对架构设计选择影响的理解。我们处理简单问答任务,即给定问题预测三元组的主体与谓词。为公平比较不同架构,我们在推断主体时采用相同策略,并比较用于推断谓词的不同架构。推断主体的架构基于标准LSTM模型(训练用于识别问题中主体的跨度)以及将主体跨度链接到知识库中实体的链接组件。推断谓词的架构基于:i) 以所有谓词为输出的标准softmax分类器,ii) 给定实体表示与问题预测属性低维编码的模型,iii) 给定问题学习对主体-谓词对评分的模型,以及 iv) 基于知名FastText模型的模型。架构比较表明FastText比其他架构提供更好的结果。
引用
@article{arxiv.1812.02536,
title = {Evaluating Architectural Choices for Deep Learning Approaches for Question Answering over Knowledge Bases},
author = {Sherzod Hakimov and Soufian Jebbara and Philipp Cimiano},
journal= {arXiv preprint arXiv:1812.02536},
year = {2018}
}
备注
the longer version than the original publication at ICSC 2019