波兰语句子表示的评测
计算与语言
2020-01-24 v2
摘要
近年来,学习句子表示的方法得到了积极的发展。然而,缺乏预训练模型以及句子级标注数据集,对波兰语等低资源语言一直是个问题,导致将这些方法应用于特定语言任务的兴趣较低。在本研究中,我们引入两个新的波兰语数据集用于评测句子嵌入,并对八种句子表示方法(包括波兰语和多语言模型)进行全面评测。我们考虑经典的词嵌入模型、近期发展的上下文嵌入以及多语言句子编码器,展示了各具体方法的优势与不足。我们还考察了将词向量聚合成单一句子向量的不同方法。
引用
@article{arxiv.1910.11834,
title = {Evaluation of Sentence Representations in Polish},
author = {Sławomir Dadas and Michał Perełkiewicz and Rafał Poświata},
journal= {arXiv preprint arXiv:1910.11834},
year = {2020}
}