公平映射

为减轻模型中不良偏置的影响，若干方法建议对输入数据集进行预处理，以降低因阻止敏感属性推断而产生的歧视风险。遗憾的是，大多数此类预处理方法会生成与原始分布差异很大的新分布，从而常导致不真实的数据。作为副作用，这一新数据分布意味着现有模型需要重新训练才能作出准确预测。为解决该问题，我们提出一种新颖的预处理方法，称之为公平映射（fair mapping），其基于将受保护组的分布变换至选定的目标分布，并附加旨在阻止敏感属性推断的隐私约束。更确切地说，我们利用近期 Wasserstein GAN 与 AttGAN 框架的成果，实现数据点的优化传输，并辅以强制防止属性推断的判别器。我们提出的方法保留了数据的可解释性，且可在未精确定义敏感组的情况下使用。此外，我们的方法可特化以建模现有的最先进方法，从而对这些方法提出统一视角。最后，在真实与合成数据集上的若干实验表明，我们的方法能够在隐藏敏感属性的同时，限制数据失真并改善后续数据分析任务的公平性。