面向神经机器翻译的主动学习
计算与语言
2023-01-03 v1 人工智能
摘要
机器翻译机制在不同自然语言之间自动翻译文本，神经机器翻译（NMT）因其合理的上下文分析和流畅的翻译准确性而受到关注。然而，处理缺乏监督数据等相关训练属性的低资源语言是当前自然语言处理（NLP）面临的一项挑战。我们将一种称为主动学习的技术与 NMT 工具包 Joey NMT 相结合，以实现低资源语言翻译的足够准确性和鲁棒预测。主动学习是一种半监督机器学习策略，训练算法使用选定的查询技术确定哪些未标记数据对获取标签最有益。我们实现了两种模型驱动的获取函数来选择待验证样本。本工作使用基于 Transformer 的 NMT 系统；基线模型（BM）、全训练模型（FTM）、基于主动学习最小置信度模型（ALLCM）和基于主动学习边际采样模型（ALMSM）用于将英语译为 Hindi。双语评估替补（BLEU）指标已用于评估系统结果。BM、FTM、ALLCM 和 ALMSM 系统的 BLEU 分数分别为 16.26、22.56、24.54 和 24.20。本文的研究结果表明，主动学习技术有助于模型更早收敛并改善翻译系统的整体质量。
引用
@article{arxiv.2301.00688,
title = {Active Learning for Neural Machine Translation},
author = {Neeraj Vashistha and Kriti Singh and Ramakant Shakya},
journal= {arXiv preprint arXiv:2301.00688},
year = {2023}
}
备注
10 pages, 6 figures, 6 tables