RigoBERTa：一个最先进的西班牙语语言模型
计算与语言
2022-06-06 v3
摘要
本文提出 RigoBERTa，一个最先进的西班牙语语言模型。RigoBERTa 在一个由具有关键特征的不同子语料构成的精心整理语料库上训练。它遵循 DeBERTa 架构，该架构相较于 BERT 或 RoBERTa 等相似规模的其它架构具有若干优势。RigoBERTa 的性能在 13 项自然语言理解（NLU）任务上与其他可用的西班牙语语言模型（即 MarIA、BERTIN 和 BETO）进行比较评估。RigoBERTa 在 13 项任务中的 10 项上优于这三个模型，取得了新的“最先进（State-of-the-Art）”结果。
引用
@article{arxiv.2205.10233,
title = {RigoBERTa: A State-of-the-Art Language Model For Spanish},
author = {Alejandro Vaca Serrano and Guillem Garcia Subies and Helena Montoro Zamorano and Nuria Aldama Garcia and Doaa Samy and David Betancur Sanchez and Antonio Moreno Sandoval and Marta Guerrero Nieto and Alvaro Barbero Jimenez},
journal= {arXiv preprint arXiv:2205.10233},
year = {2022}
}