利用生成式语言模型进行神经机器翻译的数据增强
计算与语言
2023-11-14 v2 人工智能
摘要
尽管模型架构快速发展，大型平行语料的匮乏仍是神经机器翻译的主要瓶颈。数据增强是一种通过生成合成数据而非收集新数据来提升数据饥渴型模型性能的技术。我们探索了利用ChatGPT等大规模语言模型的基于提示的数据增强方法。为创建合成平行语料，我们使用不同提示比较了3种方法。我们采用两种评估度量来衡量所生成合成数据的多样性。该方法无需额外的模型训练成本，而在反向翻译等其他增强方法中此成本必不可少。所提方法将未增强基线提升了0.68个BLEU分数。
引用
@article{arxiv.2307.16833,
title = {Data Augmentation for Neural Machine Translation using Generative Language Model},
author = {Seokjin Oh and Su Ah Lee and Woohwan Jung},
journal= {arXiv preprint arXiv:2307.16833},
year = {2023}
}