同时处理 NLP 模型中的统计与因果性别公平性
计算与语言
2024-04-02 v1 计算机与社会
机器学习
摘要
统计公平性规定每个受保护群体获得等价的结果，而因果公平性要求模型对同一个体做出相同的预测，而不受其受保护特征的影响。反事实数据增强（CDA）在减少 NLP 模型偏差方面是有效的，然而使用 CDA 训练的模型通常仅在与因果公平性概念紧密相关的指标上进行评估；同样地，旨在促进统计公平性的基于采样的方法很少被评估其因果公平性。在本研究中，我们评估了 NLP 模型中针对性别偏差的统计与因果去偏方法，并发现虽然这些方法在按目标指标衡量时能有效减少偏差，但它们不一定能在其他偏差指标上改善结果。我们证明，统计与因果去偏技术的组合能够减少通过这两类指标衡量的偏差。
引用
@article{arxiv.2404.00463,
title = {Addressing Both Statistical and Causal Gender Fairness in NLP Models},
author = {Hannah Chen and Yangfeng Ji and David Evans},
journal= {arXiv preprint arXiv:2404.00463},
year = {2024}
}
备注
NAACL 2024 (Findings)