球面文本嵌入
计算与语言
2019-11-05 v1 机器学习
机器学习
摘要
无监督文本嵌入已在广泛的 NLP 任务中展现出强大能力。尽管文本嵌入通常在欧几里得空间中学习，但在词相似度和文档聚类等任务中，方向相似性往往更为有效，这在文本嵌入的训练阶段与使用阶段之间造成了鸿沟。为弥合这一鸿沟，我们提出了一种基于球面生成模型的联合无监督词与段落嵌入学习方法。为在球面空间中学习文本嵌入，我们基于黎曼优化开发了一种具有收敛保证的高效优化算法。我们的模型具有高效率，并在词相似度和文档聚类等多种文本嵌入任务上取得了最先进的性能。
引用
@article{arxiv.1911.01196,
title = {Spherical Text Embedding},
author = {Yu Meng and Jiaxin Huang and Guangyuan Wang and Chao Zhang and Honglei Zhuang and Lance Kaplan and Jiawei Han},
journal= {arXiv preprint arXiv:1911.01196},
year = {2019}
}
备注
NeurIPS 2019. (Code: https://github.com/yumeng5/Spherical-Text-Embedding)