递归神经张量网络能学习逻辑推理吗?
计算与语言
2014-02-18 v4 机器学习
摘要
递归神经网络模型及其配套的词向量表示已在一系列语义日益复杂的任务中取得成功,但关于它们准确捕捉解释或推理所必需的语言意义方面的能力,目前几乎一无所知。为了评估这一点,我在一个新构建的逻辑推理短句语料库上训练了一个递归模型,例如在已知狗和猫都是动物的前提下,从“某只狗在走”或“某只猫在走”推断出“某种动物在走”。该模型学到的表示在除少数情况外的所有新类型推理模式中均表现出良好的泛化能力,这一结果对于学习到的表示模型捕捉逻辑推理的能力而言是令人鼓舞的。
引用
@article{arxiv.1312.6192,
title = {Can recursive neural tensor networks learn logical reasoning?},
author = {Samuel R. Bowman},
journal= {arXiv preprint arXiv:1312.6192},
year = {2014}
}
备注
Submitted for presentation at ICLR 2014. Source code and data: http://goo.gl/PSyF5u