面向视觉与语言研究中更公平神经模型的去偏方法：综述
机器学习
2025-05-20 v1 人工智能
计算与语言
计算机视觉与模式识别
计算机与社会
摘要
尽管神经网络在多项计算机视觉和自然语言处理任务中取得了 state-of-the-art 的结果，但由于其当前存在的一些缺陷而面临严厉批评。其中一个缺陷是，神经网络是相关机器，倾向于建模数据中的偏差，而不是关注实际有用的因果关系。这个问题在受种族、性别和年龄等方面影响的应用领域尤为严重。为了防止模型做出不公平的决策，AI 社区集中精力纠正算法偏差，从而催生了如今被广泛称为 AI 公平性（fairness in AI）的研究领域。在这篇综述论文中，我们深入概述了视觉和语言研究背景下面向公平性神经网络的主要去偏方法。我们提出了一种新的分类法，以更好地组织关于公平性去偏方法的文献，并讨论了当前面临的挑战、趋势以及供感兴趣的研究人员和从业者参考的重要未来工作方向。
引用
@article{arxiv.2211.05617,
title = {Debiasing Methods for Fairer Neural Models in Vision and Language Research: A Survey},
author = {Otávio Parraga and Martin D. More and Christian M. Oliveira and Nathan S. Gavenski and Lucas S. Kupssinskü and Adilson Medronha and Luis V. Moura and Gabriel S. Simões and Rodrigo C. Barros},
journal= {arXiv preprint arXiv:2211.05617},
year = {2025}
}
备注
Submitted to ACM Computing Surveys - Special Issue on Trustworthy AI