低资源场景下的社会偏见评估与去偏方法
计算与语言
2025-07-15 v2
摘要
语言模型中的社会偏见可能加剧社会不平等。尽管该议题已广泛关注，但大多数研究聚焦于英文数据。在低资源场景下，模型常因训练数据不足而表现较差。本研究旨在利用高资源语言语料，在低资源语言中评估偏见并实验性地探索去偏方法。我们评估了最近的多语言模型在五种语言（英语、中文、俄语、印尼语和泰语）上的表现，并分析了四个偏见维度：性别、宗教、国籍和种族-肤色。通过构建多语言偏见评估数据集，本研究实现了跨语言模型的公平比较。进一步地，我们调查了三种去偏方法——CDA、Dropout 和 SenDeb——并证明了来自高资源语言的去偏方法可有效迁移到低资源语言，为多语言 NLP 中的公平性研究提供了可操作的见解。
引用
@article{arxiv.2504.11183,
title = {Bias Beyond English: Evaluating Social Bias and Debiasing Methods in a Low-Resource Setting},
author = {Ej Zhou and Weiming Lu},
journal= {arXiv preprint arXiv:2504.11183},
year = {2025}
}