公平对抗网络

人类判断的影响在分析行业所用的数据集中无处不在，然而众所周知人类是易犯各类偏差的次优决策者。分析有偏差的数据集会导致有偏差的分析结果。受保护特征（如种族）带来的偏差尤为值得关注，因为它不仅可能使分析过程的输出次优，还可能违法。通过约束分析输出公平来抵消偏差存在问题，因为 A) 公平性缺乏普遍接受的定义，同时某些定义相互排斥；B) 确保公平性的优化约束与大多数分析流程不兼容。这两个问题都可通过从数据中移除偏差并返回修改后的数据集的方法解决。该方法旨在不仅移除实际的偏差变量（如种族），还修改所有代理变量（如邮政编码），使偏差变量无法从其余数据中识别。使用此方法的优势在于，将公平性定义为数据中无可识别偏差（而非分析输出中无偏差）是通用的，从而解决问题 (A)。此外，由于数据被修改以移除偏差，问题 (B) 消失，因为分析流程可保持不变。已有若干技术解决方案采用此方法。然而，它们在移除多元、非线性和非二元偏差的能力方面似乎都不尽如人意。因此，本文提出公平对抗网络的概念，作为一种易于实现的通用数据去偏方法。本文证明了公平对抗网络可实现这一目标。