AI系统中的公平性:缓解语言-视觉模型的性别偏见
计算机视觉与模式识别
2023-05-04 v1
摘要
我们的社会深受若干偏见困扰,包括种族偏见、种姓偏见与性别偏见。事实上,多年前这些观念大多闻所未闻。这些偏见世代相传并不断放大,已导致其在社会中某些群体里被视为预期规范。一个显著例子是性别偏见。无论谈及政治世界、生活方式或企业界,关于两群体参与的某些泛化差异均被观察到。这种差异化分布作为社会整体的一部分,也显见于所记录的数据中。机器学习几乎完全依赖数据的可用性;而从数据学习并作出预测的理念假定数据定义了整体的预期行为。因此,带有偏见的数据会使所得模型同样沾染那些固有偏见;且随着当前ML在产品中的普及,这可能成为平等与正义道路上的巨大障碍。本工作研究并试图缓解语言-视觉模型尤其是图像描述任务中的性别偏见问题。我们研究了现有数据集中性别偏见的影响程度,并提出了一种缓解基于描述的语言-视觉模型中其影响的方法论。
引用
@article{arxiv.2305.01888,
title = {Fairness in AI Systems: Mitigating gender bias from language-vision models},
author = {Lavisha Aggarwal and Shruti Bhargava},
journal= {arXiv preprint arXiv:2305.01888},
year = {2023}
}