能走多远？：文本分类中内在性别偏置缓解的探讨
计算与语言
2023-01-31 v1
摘要
为缓解上下文语言模型中的性别偏置，人们提出了不同的内在缓解策略以及众多偏置度量。考虑到这些语言模型的最终用途是用于文本分类等下游任务，理解这些内在偏置缓解策略如何以及在多大程度上转化为下游任务中的公平性至关重要。在这项工作中，我们设计了一个探针来研究一些主要的内在性别偏置缓解策略对下游文本分类任务的影响。我们发现，内在缓解技术和度量并未解决性别偏置，而是以一种在嵌入中保留显著性别信息的方式将其隐藏。此外，我们表明每种缓解技术都能从某些内在偏置度量中隐藏偏置但并非全部，并且每种内在偏置度量都能被某些缓解技术欺骗但并非全部。我们通过实验证实，在没有任何其他公平性干预的情况下，所使用的内在偏置缓解技术均无法持续影响外在偏置。我们建议将内在偏置缓解技术与其它公平性干预相结合用于下游任务。
引用
@article{arxiv.2301.12855,
title = {How Far Can It Go?: On Intrinsic Gender Bias Mitigation for Text Classification},
author = {Ewoenam Tokpo and Pieter Delobelle and Bettina Berendt and Toon Calders},
journal= {arXiv preprint arXiv:2301.12855},
year = {2023}
}