FairNeuron：通过对选择性神经元的对抗博弈提升深度神经网络公平性
机器学习
2022-05-12 v2 人工智能
软件工程
摘要
随着深度神经网络（DNN）被集成到越来越多对社会有深远影响的关键系统中，人们对其伦理表现（如公平性）的担忧与日俱增。遗憾的是，模型公平性与准确性在许多情况下是矛盾的优化目标。为解决此问题，已有大量工作尝试通过在模型层面使用对抗博弈来提升模型公平性。该方法引入一个除主任务预测精度外还评估模型公平性的对抗者，并执行联合优化以取得平衡结果。本文中，我们注意到在执行基于反向传播的训练时，这种矛盾现象在单个神经元层面亦有显现。基于该观察，我们提出FairNeuron，一种DNN模型自动修复工具，在不引入额外模型的情况下缓解公平性担忧并平衡准确性-公平性权衡。它通过检测来自准确性与公平性训练目标优化方向矛盾的神经元，并借助选择性丢弃（dropout）实现权衡。与最先进方法相比，我们的方法轻量，具备可扩展性且更高效。在3个数据集上的评估表明，FairNeuron能有效提升所有模型的公平性同时保持稳定效用。
引用
@article{arxiv.2204.02567,
title = {FairNeuron: Improving Deep Neural Network Fairness with Adversary Games on Selective Neurons},
author = {Xuanqi Gao and Juan Zhai and Shiqing Ma and Chao Shen and Yufei Chen and Qian Wang},
journal= {arXiv preprint arXiv:2204.02567},
year = {2022}
}