Semi-FairVAE：基于对抗变分自编码器的半监督公平表示学习
机器学习
2022-04-04 v1
摘要
对抗学习是公平表示学习中广泛使用的技术，用于从数据表示中去除敏感属性的偏差。它通常要求将敏感属性标签作为预测目标。然而，在许多场景下大量样本的敏感属性标签可能未知，且难以基于带有观测属性标签的稀缺数据训练出强判别器，这可能导致生成不公平的表示。本文提出一种基于对抗变分自编码器（variational autoencoder）的半监督公平表示学习方法，可降低对抗公平模型对带标签敏感属性数据的依赖。具体而言，我们使用偏差感知模型通过从输入数据准确预测敏感属性来捕获其固有偏差信息，并使用无偏模型通过对抗学习从中去除偏差信息以学习去偏的公平表示。两个模型学习的隐表示被正则化为正交。此外，两模型预测的软标签被进一步整合进半监督变分自编码器以重建输入数据，并施加额外的熵正则化以促使从无偏模型推断的属性标签具有高熵。如此，若输入数据被良好重建，偏差感知模型能更好捕获属性信息，而无偏模型对敏感属性的判别性更弱。在两个数据集上针对不同任务的广泛实验验证了我们的方法能在敏感属性标签有限的数据下取得良好的表示学习公平性。
引用
@article{arxiv.2204.00536,
title = {Semi-FairVAE: Semi-supervised Fair Representation Learning with Adversarial Variational Autoencoder},
author = {Chuhan Wu and Fangzhao Wu and Tao Qi and Yongfeng Huang},
journal= {arXiv preprint arXiv:2204.00536},
year = {2022}
}