两个头是否等同于一个头？公平神经网络中的差别待遇识别
机器学习
2022-11-22 v2
摘要
我们表明，为满足人口统计均等的深度网络常通过一种种族或性别觉察的形式实现，且我们越强制网络公平，就能越准确地从网络内部状态恢复种族或性别。基于该观察，我们研究了一种替代的公平方法：我们为网络添加第二个分类头以显式预测受保护属性（如种族或性别），与原任务并行。训练双头网络后，我们通过合并两个头实施人口统计均等，创建出与原网络架构相同的网络。我们建立了现有方法与我们方法间的紧密联系，表明（1）公平分类器的决策可由我们的方法良好近似，且（2）可由公平分类器与预测受保护属性的第二个头恢复出不公平且最优准确的分类器。我们利用显式公式论证：现有公平方法正如我们的方法一样，表现出差别待遇，且依据美国法律在广泛情景下可能不合法。
引用
@article{arxiv.2204.04440,
title = {Are Two Heads the Same as One? Identifying Disparate Treatment in Fair Neural Networks},
author = {Michael Lohaus and Matthäus Kleindessner and Krishnaram Kenthapadi and Francesco Locatello and Chris Russell},
journal= {arXiv preprint arXiv:2204.04440},
year = {2022}
}
备注
Accepted at NeurIPS 2022