使用 Transformer 模型生成立陶宛语新闻文章的抽取式摘要
计算与语言
2021-10-19 v2 信息检索
机器学习
摘要
本文中，我们在一个相对较大的立陶宛语新闻文章语料库上训练了首个单语立陶宛语 Transformer 模型，并比较了用于新闻抽取式摘要的各种输出解码算法。我们取得了平均 ROUGE-2 分数 0.163，生成的摘要在连贯性上表现良好且初看令人印象深刻。然而，其中一些包含不易察觉的误导性信息。我们描述了所有技术细节，并在在线开源仓库中分享了训练好的模型及配套代码，以及一些生成的摘要典型样本。
引用
@article{arxiv.2105.03279,
title = {Generating abstractive summaries of Lithuanian news articles using a transformer model},
author = {Lukas Stankevičius and Mantas Lukoševičius},
journal= {arXiv preprint arXiv:2105.03279},
year = {2021}
}
备注
Accepted in ICIST 2021