面向阿拉伯语文本摘要的BERT微调
计算与语言
2020-04-30 v1 机器学习
摘要
微调预训练的BERT模型是抽取式/生成式文本摘要的最先进方法，在本文中我们展示了这种微调方法如何应用于阿拉伯语，以构建首个有文献记录的阿拉伯语生成式文本摘要模型，并展示其在阿拉伯语抽取式摘要中的性能。我们的模型使用多语言BERT（因为阿拉伯语自身没有预训练的BERT）。我们首先在英文语料上展示其性能，然后将其应用于阿拉伯语语料的抽取式和生成式任务。
引用
@article{arxiv.2004.14135,
title = {BERT Fine-tuning For Arabic Text Summarization},
author = {Khalid N. Elmadani and Mukhtar Elgezouli and Anas Showk},
journal= {arXiv preprint arXiv:2004.14135},
year = {2020}
}
备注
4 pages, 2 tables, Published as a conference paper at AfricaNLP workshop at ICLR 2020