用于语义归纳的依存图词袋向量嵌入
计算与语言
2017-10-03 v1
摘要
从词嵌入到神经网络解析器,向量空间模型在 NLP 中具有诸多优势。但是,如何从定长词向量泛化到适用于任意语言结构的向量空间仍不清楚。在本文中,我们提出了任意语言图的词袋向量嵌入。词袋向量空间是向量空间的最小非参数扩展,允许表示随图的大小而增长,但不会将表示与任何特定的树或图结构绑定。我们提出了基于张量分解的高效训练和推理算法,用于在词袋向量空间中嵌入任意图。我们通过训练依存图的词袋向量嵌入,并在 Semantic Textual Similarity 和 Natural Language Inference 任务上对其进行无监督语义归纳评估,证明了该表示的有效性。
引用
@article{arxiv.1710.00205,
title = {Bag-of-Vector Embeddings of Dependency Graphs for Semantic Induction},
author = {Diana Nicoleta Popa and James Henderson},
journal= {arXiv preprint arXiv:1710.00205},
year = {2017}
}
备注
10 pages, 2 figures