缓解孟加拉分类任务中的外部性别偏见
计算与语言
2026-05-19 v3 人工智能
机器学习
摘要
本研究探讨了孟加拉预训练语言模型中的外部性别偏见，这一议题在低资源语言领域鲜有探讨。为评估此偏见，我们构建了四个带手动注释的、特定于任务的基准数据集，涵盖情感分析、毒性检测、仇恨言论检测和讽刺检测。每个数据集均通过细粒度性别扰动进行增强，其中系统性地置换性别化名称和术语，同时保持语义内容不变，从而实现最小配对评估性别驱动的预测变化。我们随后提出了 RandSymKL，这是一种集成对称 KL 散度和交叉熵损失的随机去偏策略，用于缓解分类任务中针对不同预训练模型的外部性别偏见。RandSymKL 是一种将上述元素统一集成以针对分类任务进行外部性别偏见缓解的精炼化训练方法。我们的方法在现有偏见缓解方法的基础上进行评估，结果表明该技术不仅有效降低了偏见，还在保持竦争准确率方面表现优异。为促进进一步的研究，我们已公开实现代码和数据集：https://github.com/sajib-kumar/Mitigating-Bangla-Extrinsic-Gender-Bias
引用
@article{arxiv.2411.10636,
title = {Mitigating Extrinsic Gender Bias for Bangla Classification Tasks},
author = {Sajib Kumar Saha Joy and Arman Hassan Mahy and Meherin Sultana and Azizah Mamun Abha and MD Piyal Ahmmed and Yue Dong and G M Shahariar},
journal= {arXiv preprint arXiv:2411.10636},
year = {2026}
}