GloVeInit在SemEval-2020任务1中的表现：使用GloVe向量初始化进行无监督词汇语义变化检测
计算与语言
2020-07-14 v1 机器学习
摘要
本文提出一种用于SemEval2020任务1：无监督词汇语义变化检测的向量初始化方法。给定属于不同时期的两个语料库及一组目标词，该任务要求我们分类一个词随时间获得还是失去了某个义项（子任务1），并依据其词义变化程度排序（子任务2）。所提方法基于使用向量初始化方法对齐GloVe嵌入。其思路为依次训练两个语料的GloVe嵌入，同时使用第一个模型初始化第二个模型。本文基于如下假设：GloVe嵌入比SGNS嵌入更适用于向量初始化方法。文中给出了该假设背后的直观推理，并讨论了各类因素与超参数对所提方法性能的影响。我们的模型在两个子任务中于33支队伍里分别排名第13与第10。实现代码已公开共享。
引用
@article{arxiv.2007.05618,
title = {GloVeInit at SemEval-2020 Task 1: Using GloVe Vector Initialization for Unsupervised Lexical Semantic Change Detection},
author = {Vaibhav Jain},
journal= {arXiv preprint arXiv:2007.05618},
year = {2020}
}
备注
To be presented at the 2020 International Workshop on Semantic Evaluation