基于解耦因果效应变分自编码器的反事实公平性
机器学习
2020-12-10 v2 人工智能
摘要
若我们能开发一种从分类特征中去除嵌入的敏感信息的方法，公平分类问题便可得到缓解。这种分离敏感信息的思路通过因果推断发展而来，而因果推断使得反事实生成能够对比相反敏感属性的假设情形。在深度潜变量因果模型中，一个常见假设是定义单一潜变量来吸收因果图的全部外生不确定性。然而，我们指出此类结构无法区分1)由干预(即敏感变量)引起的信息，与2)数据中与干预相关但不具因果性的信息。因此，本文提出解耦因果效应变分自编码器(DCEVAE)以解决该局限，将外生不确定性解耦为两个潜变量：要么1)与干预独立，要么2)与干预相关但无因果性。特别地，我们的解耦方法在生成反事实样本时保留与干预相关的潜变量。我们展示了该方法可在无完整因果图的情况下估计总效应与反事实效应。通过加入公平性正则化，DCEVAE在损失较少原始信息的同时生成反事实公平的数据集。此外，DCEVAE仅翻转敏感信息即可生成自然的反事实图像。我们从潜变量解耦的角度，从理论上揭示了DCEVAE与已有工作在协方差结构上的差异。
引用
@article{arxiv.2011.11878,
title = {Counterfactual Fairness with Disentangled Causal Effect Variational Autoencoder},
author = {Hyemi Kim and Seungjae Shin and JoonHo Jang and Kyungwoo Song and Weonyoung Joo and Wanmo Kang and Il-Chul Moon},
journal= {arXiv preprint arXiv:2011.11878},
year = {2020}
}