双向去偏: 保持事实性性别，实现公平语言建模与翻译
计算与语言
2025-02-03 v2 人工智能
摘要
语言模型依赖性别刻板印象的偏差缓解，是创建可靠且有用语言技术所必需的关键任务。去偏的关键方面在于确保模型保留其多功能能力，包括解决语言任务和公平代表各种性别的能力。为此，我们提出了一种通过模型适应实现的简洁双向去偏算法（2DAMA）。新的双向去偏使重大降低刻板印象的偏差成为可能，同时保留语言模型编码的所需事实性性别信息。我们表明，2DAMA 有效降低了英语中的性别偏差，并且是首批能够缓解翻译中刻板印象倾向的方法之一。该方法的关键优势在于保留事实性性别线索，这些线索在广泛的自然语言处理任务中都有用。
引用
@article{arxiv.2501.10150,
title = {Dual Debiasing: Remove Stereotypes and Keep Factual Gender for Fair Language Modeling and Translation},
author = {Tomasz Limisiewicz and David Mareček and Tomáš Musil},
journal= {arXiv preprint arXiv:2501.10150},
year = {2025}
}