平衡偏见：通过平衡训练实现公平
计算与语言
2022-05-17 v2
摘要
自然语言处理任务中的群体偏见表现为不同人口群体所授权文本的系统错误率差异，通常使少数群体处于不利地位。数据集平衡已被证明能有效缓解偏见，然而现有方法未直接考虑作者人口统计特征与语言变量之间的相关性，限制了其效果。为实现机会均等公平（例如不分人口统计特征提供平等工作机会），本文引入了一种简单但高度有效的目标，利用平衡训练来对抗偏见。我们以门控模型的形式扩展了该方法，将受保护属性作为输入，并表明其通过人口统计输入扰动在减少预测偏见方面有效，在与平衡训练结合时优于所有其他偏见缓解技术。
引用
@article{arxiv.2109.08253,
title = {Balancing out Bias: Achieving Fairness Through Balanced Training},
author = {Xudong Han and Timothy Baldwin and Trevor Cohn},
journal= {arXiv preprint arXiv:2109.08253},
year = {2022}
}
备注
8 pages + 5 pages appendix