RepFair-GAN：利用梯度裁剪缓解 GAN 中的表征偏差
机器学习
2022-07-22 v1 人工智能
摘要
公平性已成为机器学习（ML）诸多领域（如分类、自然语言处理以及生成对抗网络（GANs））中的一个关键问题。在本研究中，我们探讨 GAN 的不公平性。我们依据共享相同受保护属性（性别、种族等）的生成样本分布，正式定义了生成模型的一种新公平性概念。所定义的公平性概念（表征公平性）要求测试时敏感属性的分布均匀；特别地，对于 GAN 模型，我们表明即便数据集中各组表示均衡，该公平性概念也会被违背，即生成器在测试时倾向于生成某一组样本甚于其他组。本工作中，我们揭示了 GAN 中此表征偏差的来源，并给出了一种克服该问题的直接方法。我们首先在两个广泛使用的数据集（MNIST、SVHN）上表明，当判别器训练期间某一组的梯度范数比另一组更重要时，生成器在测试时会更偏好从一组采样数据而非另一组。我们随后表明，通过在训练中对判别器执行分组梯度范数裁剪来控制各组梯度范数，相较于现有模型能在表征公平性方面实现更公平的数据生成，同时保持生成样本的质量。
引用
@article{arxiv.2207.10653,
title = {RepFair-GAN: Mitigating Representation Bias in GANs Using Gradient Clipping},
author = {Patrik Joslin Kenfack and Kamil Sabbagh and Adín Ramírez Rivera and Adil Khan},
journal= {arXiv preprint arXiv:2207.10653},
year = {2022}
}