基于大语言模型的性别特定机器翻译
计算与语言
2024-04-18 v2
摘要
尽管机器翻译(MT)系统已取得显著改进,译文反映社会偏见(如性别偏见)仍十分常见。仅解码器的大语言模型(LLMs)已展现出在机器翻译中的潜力,尽管其性能略落后于传统的编码器-解码器神经机器翻译(NMT)系统。然而,LLM 提供了一种独特优势:通过提示控制输出属性的能力。在本研究中,我们利用这种灵活性探索 LLaMa 生成性别特定翻译的能力。我们的结果表明,LLaMa 能够生成性别特定翻译,其翻译准确率和性别偏见可与最先进的多语种 NMT 系统 NLLB 相媲美。此外,我们的实验揭示,LLaMa 的性别特定翻译依赖于共指消解来确定性别,在性别模糊的数据集中表现出更高的性别方差,而在歧义较少的语境中保持一致性。本研究以性别特定翻译为例,探讨了利用 LLM 进行可控输出翻译的潜力与挑战。
引用
@article{arxiv.2309.03175,
title = {Gender-specific Machine Translation with Large Language Models},
author = {Eduardo Sánchez and Pierre Andrews and Pontus Stenetorp and Mikel Artetxe and Marta R. Costa-jussà},
journal= {arXiv preprint arXiv:2309.03175},
year = {2024}
}