健康数据饮食上的深度学习：寻找对公平性重要的样本
计算与语言
2022-11-28 v2 人工智能
计算机与社会
机器学习
摘要
商业应用中占主导的数据驱动预测方案往往受偏见与刻板印象之困，从而引发公平隐忧。预测模型可能发现、利用或放大基于性别或其他受保护个人特征的伪相关，从而歧视边缘化群体。缓解性别偏见已成为自然语言处理（NLP）中的重要研究方向，且为有标注语料可得之领域。数据增强通过向训练集添加反事实样本来削减性别偏见。本工作中，我们表明增强数据集中部分样本对公平性而言可能并不重要甚至有害。因此我们提出一种通用方法，对事实与反事实样本均作剪枝，以最大化模型按人口均等等价性、机会均等与几率均等所度量的公平性。我们的方法在三个文本分类数据集上所获公平性超越数据增强，且所用样本不超过增强数据集之半。我们的实验使用不同规模与预训练设置的模型进行。
引用
@article{arxiv.2211.11109,
title = {Deep Learning on a Healthy Data Diet: Finding Important Examples for Fairness},
author = {Abdelrahman Zayed and Prasanna Parthasarathi and Goncalo Mordido and Hamid Palangi and Samira Shabanian and Sarath Chandar},
journal= {arXiv preprint arXiv:2211.11109},
year = {2022}
}
备注
In Proceedings of AAAI 2023