基于大型语言模型的机器翻译:面向波斯语、英语和俄语方向的提示工程
计算与语言
2024-01-17 v1 人工智能
人机交互
机器学习
摘要
生成式大型语言模型(LLM)在多种自然语言处理(NLP)任务中展现了卓越的能力,包括机器翻译、问答、文本摘要和自然语言理解。为进一步提升 LLM 在机器翻译中的性能,我们针对波斯语、英语和俄语之间的跨语言组合,研究了两种流行的提示方法及其结合。我们采用了 n-shot 示例供给和定制化提示框架。我们的发现表明,像 PaLM 这样的多语言 LLM 能产生类人的机器翻译输出,从而能够根据风格指南和语言考量,对所需的翻译细微差别进行更优的微调。这些模型在处理和应用提示方面也表现出色。然而,在采用提示框架和利用 n-shot 上下文学习时,语言模型的选择、机器翻译任务以及特定的源语言和目标语言都需要一定的考量。此外,我们识别了流行 LLM 作为机器翻译工具时固有的错误和局限性,并根据各种语言指标对其进行了分类。这种错误类型学为有效利用 LLM 提供了宝贵见解,并为设计上下文学习的提示提供了方法。我们的报告旨在通过提高评估指标的准确性和可靠性,为基于 LLM 的机器翻译的进步做出贡献。
引用
@article{arxiv.2401.08429,
title = {Machine Translation with Large Language Models: Prompt Engineering for Persian, English, and Russian Directions},
author = {Nooshin Pourkamali and Shler Ebrahim Sharifi},
journal= {arXiv preprint arXiv:2401.08429},
year = {2024}
}
备注
34 pages, 46 figures