利用原型表示来消除缺乏人口统计信息的社会偏见
计算与语言
2024-04-09 v3 计算机与社会
机器学习
摘要
消除社会偏见通常需要识别与每个数据样本相关的社会群体。本文提出 DAFair，一种新颖的方法来解决语言模型中的社会偏见。不同于依赖显式人口统计标签的传统方法，我们的方法不需要任何此类信息。相反，我们利用预定义的原型人口统计文本，并在微调过程中包含正则化项，以消除模型表示中的偏见。我们的实验结果在两个任务和两个模型上都显示，与不依赖标记数据的方法相比，我们的方法效果更好。此外，在有限的人口统计标注数据下，我们的方法还能优于常见的去偏方法。
引用
@article{arxiv.2403.09516,
title = {Leveraging Prototypical Representations for Mitigating Social Bias without Demographic Information},
author = {Shadi Iskander and Kira Radinsky and Yonatan Belinkov},
journal= {arXiv preprint arXiv:2403.09516},
year = {2024}
}