中文

PrahokBART:用于柬埔寨自然语言生成的预训练序列到序列模型

计算与语言 2026-01-09 v1

摘要

本工作引入了{\it PrahokBART},一个在精心挑选的柬埔寨和英语语料库上从头训练的紧凑型预训练序列到序列模型,专为柬埔寨语而设计。我们专注于提高预训练语料库的质量,并解决现有多语言模型忽略的柬埔寨语语言问题,通过纳入词语分段和规范化等语言成分。我们在三个生成任务上评估了PrahokBART:机器翻译、文本摘要和标题生成,其中我们的结果表明它优于mBART50,一个强大的多语言预训练模型。此外,我们的分析提供了每个语言模块影响的见解,并评估了模型在文本生成期间如何有效处理空格的能力,这对于柬埔寨语文本的自然性至关重要。

关键词

引用

@article{arxiv.2512.13552,
  title  = {PrahokBART: A Pre-trained Sequence-to-Sequence Model for Khmer Natural Language Generation},
  author = {Hour Kaing and Raj Dabre and Haiyue Song and Van-Hien Tran and Hideki Tanaka and Masao Utiyama},
  journal= {arXiv preprint arXiv:2512.13552},
  year   = {2026}
}

备注

Published at COLING 2025, 14 pages