基于 Wasserstein 独立性的公平文本分类
计算与语言
2023-11-22 v1 计算机与社会
机器学习
摘要
群体公平性是文本分类中的核心研究课题，其中实现敏感群体（例如女性与男性）之间的公平对待仍是一项开放挑战。本文提出了一种用于缓解神经文本分类中偏见的新型方法，该方法与模型架构无关。考虑到在文本编码器中区分公平与不公平信息的困难，我们受对抗训练的启发，诱导用于预测目标标签所学表征与用于预测某些敏感属性所学表征之间的 Wasserstein 独立性。我们的方法具有两个显著优势。首先，它不需要在测试和训练数据中标注敏感属性。与现有需要在训练时标注敏感属性的方法相比，这更适用于真实场景。其次，与现有方法相比，我们的方法展现出相当或更优的公平性-准确性权衡。
引用
@article{arxiv.2311.12689,
title = {Fair Text Classification with Wasserstein Independence},
author = {Thibaud Leteno and Antoine Gourru and Charlotte Laclau and Rémi Emonet and Christophe Gravier},
journal= {arXiv preprint arXiv:2311.12689},
year = {2023}
}