词移嵌入：从Word2Vec到文档嵌入
计算与语言
2018-11-06 v1 人工智能
机器学习
机器学习
摘要
尽管著名的Word2Vec技术为单个词提供了语义丰富的表示，但在扩展生成无监督句子或文档嵌入方面成效相对较小。近期工作表明，一种称为词移距离（Word Mover's Distance, WMD）的文档间距离度量通过对齐语义相似词，取得了前所未有的KNN分类精度。然而，WMD计算代价高昂，且难以将其应用扩展至KNN分类器之外。本文提出词移嵌入（Word Mover's Embedding, WME），一种基于预训练词嵌入构建无监督文档（句子）嵌入的新方法。在9个基准文本分类数据集与22个文本相似度任务的实验中，所提技术持续匹配或超越最先进方法，在短文本问题上精度显著更高。
引用
@article{arxiv.1811.01713,
title = {Word Mover's Embedding: From Word2Vec to Document Embedding},
author = {Lingfei Wu and Ian E. H. Yen and Kun Xu and Fangli Xu and Avinash Balakrishnan and Pin-Yu Chen and Pradeep Ravikumar and Michael J. Witbrock},
journal= {arXiv preprint arXiv:1811.01713},
year = {2018}
}
备注
EMNLP'18 Camera-Ready Version