学习组合任务特定的树结构
计算与语言
2017-11-22 v4
摘要
多年来，递归神经网络（RvNNs）已被证明适用于将文本表示为定长向量，并在若干自然语言处理任务上取得良好性能。然而，RvNNs 的主要缺点是要求结构化输入，这使得数据准备和模型实现困难。本文中，我们提出 Gumbel Tree-LSTM，一种新颖的树结构长短期记忆架构，它能仅从纯文本数据高效地学习如何组合任务特定的树结构。我们的模型使用直通 Gumbel-Softmax 估计器动态决定候选中的父节点，并计算离散决策的梯度。我们在自然语言推理和情感分析上评估所提模型，表明我们的模型优于或至少与先前模型相当。我们还发现我们的模型收敛显著快于其他模型。
引用
@article{arxiv.1707.02786,
title = {Learning to Compose Task-Specific Tree Structures},
author = {Jihun Choi and Kang Min Yoo and Sang-goo Lee},
journal= {arXiv preprint arXiv:1707.02786},
year = {2017}
}
备注
AAAI 2018