词表示模型综合综述：从经典到最先进的词表示语言模型
计算与语言
2020-11-10 v1
摘要
词表示在自然语言处理（NLP）史上一直是一个重要的研究领域。理解此类复杂的文本数据至关重要，因为它富含信息且可广泛应用于各种应用中。在本综述中，我们探讨了从经典到现代最先进的词表示语言模型（LMs）的不同词表示模型及其表达能力。我们描述了在 NLP 背景下涌现的多种文本表示方法以及模型设计，包括 SOTA LMs。这些模型能够将大量文本转化为捕捉相同语义信息的有效向量表示。此外，此类表示可被各种机器学习（ML）算法用于多种 NLP 相关任务。最后，本综述简要讨论了常用的基于 ML 和 DL 的分类器、评价指标以及这些词嵌入在不同 NLP 任务中的应用。
引用
@article{arxiv.2010.15036,
title = {A Comprehensive Survey on Word Representation Models: From Classical to State-Of-The-Art Word Representation Language Models},
author = {Usman Naseem and Imran Razzak and Shah Khalid Khan and Mukesh Prasad},
journal= {arXiv preprint arXiv:2010.15036},
year = {2020}
}