自然语言查询的分布式与符号执行耦合
机器学习
2017-06-20 v4 人工智能
计算与语言
神经与进化计算
软件工程
摘要
构建神经网络以自然语言查询知识库(表)是深度学习中的新兴研究课题。表查询的执行器通常需要多步执行,因为查询可能具有复杂结构。在以往研究中,研究者开发了用于表查询的全分布式执行器或符号执行器。分布式执行器可以端到端方式训练,但在执行效率和显式可解释性方面较弱。符号执行器执行高效,但非常难以训练,尤其在初始阶段。本文中,我们提出耦合分布式与符号执行用于自然语言查询,其中符号执行器以逐步方式利用分布式执行器的中间执行结果进行预训练。实验表明,我们的方法显著优于分布式和符号执行器,展现出高准确率、高学习效率、高执行效率和高可解释性。
引用
@article{arxiv.1612.02741,
title = {Coupling Distributed and Symbolic Execution for Natural Language Queries},
author = {Lili Mou and Zhengdong Lu and Hang Li and Zhi Jin},
journal= {arXiv preprint arXiv:1612.02741},
year = {2017}
}
备注
Accepted by ICML-17; also presented at ICLR-17 Workshop