MULTISEM 在 SemEval-2020 任务3：微调BERT用于词汇语义
计算与语言
2020-07-27 v1
摘要
我们展示了提交至 SemEval 2020 任务3：上下文分级词相似度（GWSC）的 MULTISEM 系统。我们尝试通过在与 GWSC 相关的词汇语义任务上微调预训练的 BERT 模型，向其注入语义知识。我们使用现有的语义标注数据集，并提出通过自动生成的上下文词汇替代来近似相似度。我们参与了 GWSC 的两个子任务，并涉及英语和芬兰语两种语言。我们最好的英语模型在两个子任务的排名中分别占据第三和第四位。芬兰语模型的性能较低，在相应子任务中排名居中，这凸显了数据可用性对微调的重要作用。
引用
@article{arxiv.2007.12432,
title = {MULTISEM at SemEval-2020 Task 3: Fine-tuning BERT for Lexical Meaning},
author = {Aina Garí Soler and Marianna Apidianaki},
journal= {arXiv preprint arXiv:2007.12432},
year = {2020}
}
备注
8 pages, 2 tables. Accepted at the 14th International Workshop on Semantic Evaluation (SemEval-2020)