用于俄语新闻聚类标题选择的 Transformer 模型
计算与语言
2021-06-22 v1
摘要
在本文中，我们探索了多种多语言及俄语预训练的基于 Transformer 的模型，用于 Dialogue Evaluation 2021 关于标题选择的共享任务。我们的实验表明，组合方法优于单独的多语言与单语模型。我们分析了多种获取句子嵌入并以其为基础学习排序模型的方法。我们在公开和私有测试集上分别取得了 87.28% 和 86.60% 的准确率。
引用
@article{arxiv.2106.10487,
title = {Transformers for Headline Selection for Russian News Clusters},
author = {Pavel Voropaev and Olga Sopilnyak},
journal= {arXiv preprint arXiv:2106.10487},
year = {2021}
}
备注
Accepted to Dialogue 2021 conference