多语言神经机器翻译中的性别偏见:架构至关重要
计算与语言
2020-12-25 v1
摘要
多语言神经机器翻译架构的主要区别在于语言间共享模块和参数的数量。本文从算法角度探讨,在相同数据训练下,所选架构是否影响性别偏见的准确性。在四组语言对上的实验表明,语言特定编码器-解码器比共享编码器-解码器架构表现出更少的偏见。对源嵌入和注意力的进一步可解释性分析显示,在语言特定情况下,嵌入编码了更多性别信息,且其注意力更为分散。这两种行为均有助于缓解性别偏见。
引用
@article{arxiv.2012.13176,
title = {Gender Bias in Multilingual Neural Machine Translation: The Architecture Matters},
author = {Marta R. Costa-jussà and Carlos Escolano and Christine Basta and Javier Ferrando and Roser Batlle and Ksenia Kharitonova},
journal= {arXiv preprint arXiv:2012.13176},
year = {2020}
}
备注
12 pages, 5 figures, 3 tables