神经网络中交叉子群体偏差缓解框架
机器学习
2022-12-27 v1 计算机与社会
摘要
我们提出了一种公平性感知学习框架，用于缓解与受保护属性相关的交叉子群体偏差。先前的研究主要通过将复杂的公平性驱动约束纳入优化目标，或设计专注于特定受保护属性的额外层来缓解单一类型偏差。我们引入了一种简单且通用的偏差缓解方法，通过降低受保护属性与输出变量之间的互信息，防止模型学习二者间的关系。我们证明了该方法在准确率几乎不降或完全不降的情况下能有效降低偏差。我们还表明，用我们的学习框架训练的模型具有因果公平性，且对受保护属性值不敏感。最后，我们通过研究受保护与不受保护属性之间的特征交互来验证我们的方法。我们证明，在应用我们的偏差缓解后，这些交互显著减少。
引用
@article{arxiv.2212.13014,
title = {Bias Mitigation Framework for Intersectional Subgroups in Neural Networks},
author = {Narine Kokhlikyan and Bilal Alsallakh and Fulton Wang and Vivek Miglani and Oliver Aobo Yang and David Adkins},
journal= {arXiv preprint arXiv:2212.13014},
year = {2022}
}