BERT与Transformer组合用于越南语拼写纠正
计算与语言
2024-05-07 v1
摘要
最近的许多研究表明，使用双向编码器表示Transformer（BERT）在各种自然语言处理（NLP）任务中具有高效性。具体而言，采用Encoder-Decoder架构并利用BERT的英文拼写纠正任务已取得最先进的结果。然而,到目前为止，尚无人在越南语上实现该方法。因此，本研究提出将Transformer架构（Encoder-Decoder模型的最新技术）与BERT组合，用于越南语拼写纠正。实验结果表明，我们的方法优于其他方法以及Google Docs拼写检查工具，在该任务上达到了86.24的BLEU分数。
关键词
引用
@article{arxiv.2405.02573,
title = {A Combination of BERT and Transformer for Vietnamese Spelling Correction},
author = {Hieu Ngo Trung and Duong Tran Ham and Tin Huynh and Kiem Hoang},
journal= {arXiv preprint arXiv:2405.02573},
year = {2024}
}
备注
13 pages