翻译系统对额外上下文的敏感度如何？通过相关上下文缓解神经机器翻译模型中的性别偏见
计算与语言
2022-10-18 v2 机器学习
摘要
基于 Transformer 架构构建的神经机器翻译系统根据词重叠指标在翻译质量上不断刷新最优水平。然而，越来越多的研究也凸显了这些模型在训练过程中所固有的性别偏见，并在其翻译中表现不佳。在本工作中，我们探究是否可以在推理时使用有针对性的引导指令作为上下文来指示这些模型修正其偏见。通过在推理时连同输入一起翻译相关的上下文句子，我们观察到在减少翻译中的性别偏见方面取得了大幅改进，涉及三个流行的测试套件（WinoMT、BUG、SimpleGen）。我们进一步提出了一种新指标，用于评估多个大型预训练模型（OPUS-MT、M2M-100）在翻译过程中利用上下文纠正其偏见的敏感度。我们的方法无需微调，因此可轻松用于生产系统以去偏译文中刻板印象式的性别-职业偏见。我们希望我们的方法及其指标可用于构建更好、无偏见的翻译系统。
引用
@article{arxiv.2205.10762,
title = {How sensitive are translation systems to extra contexts? Mitigating gender bias in Neural Machine Translation models through relevant contexts},
author = {Shanya Sharma and Manan Dey and Koustuv Sinha},
journal= {arXiv preprint arXiv:2205.10762},
year = {2022}
}
备注
EMNLP Findings 2022