神经机器翻译中速度-质量优化过程中的性别偏见放大
计算与语言
2021-06-02 v1
摘要
当神经机器翻译（NMT）模型针对速度进行优化并使用 BLEU 在通用测试集上评估时，偏见是否会被放大？我们研究了在基于 Transformer 的模型中常用于加速解码的架构与技术，例如贪心搜索、量化、平均注意力网络（AANs）和浅解码器模型，并展示了它们对性别化名词翻译的影响。我们构建了一个新的性别偏见测试集 SimpleGEN，其基于性别化名词短语，其中存在唯一、明确的正确答案。虽然我们发现随着应用速度优化，整体 BLEU 下降极小，但观察到性别化名词翻译性能的下降速度快得多。
引用
@article{arxiv.2106.00169,
title = {Gender Bias Amplification During Speed-Quality Optimization in Neural Machine Translation},
author = {Adithya Renduchintala and Denise Diaz and Kenneth Heafield and Xian Li and Mona Diab},
journal= {arXiv preprint arXiv:2106.00169},
year = {2021}
}
备注
Accepted at ACL 2021