UiO-UvA 在 SemEval-2020 任务 1：用于词汇语义变化检测的上下文嵌入
计算与语言
2020-07-21 v3
摘要
我们将上下文词嵌入应用于 SemEval-2020 共享任务 1 的词汇语义变化检测。本文聚焦于子任务 2，即按词义漂移程度对词进行排序。我们分析了两种上下文架构（BERT 和 ELMo）与三种变化检测算法的表现。我们发现最有效的算法依赖于平均词元嵌入间的余弦相似度以及词元嵌入间的两两距离。它们以较大幅度优于强基线（在事后评估阶段，我们拥有 SemEval-2020 任务 1 的最佳子任务 2 提交），但有趣的是，特定算法的选择取决于测试集中金标准分数的分布。
引用
@article{arxiv.2005.00050,
title = {UiO-UvA at SemEval-2020 Task 1: Contextualised Embeddings for Lexical Semantic Change Detection},
author = {Andrey Kutuzov and Mario Giulianelli},
journal= {arXiv preprint arXiv:2005.00050},
year = {2020}
}
备注
To appear in Proceedings of the 14th International Workshop on Semantic Evaluation (SemEval-2020)