NeuronFair：通过偏置神经元识别实现可解释白盒公平性测试
机器学习
2021-12-28 v1 人工智能
摘要
深度神经网络（DNNs）已在多个领域展现出卓越性能。然而，当 DNNs 被应用于涉及有价值资源分配（如教育、贷款和就业）的敏感领域时，其能否做出可靠且公平的决策引发了社会关切。在 DNNs 可靠部署到此类敏感领域之前，开展公平性测试至关重要，即尽可能多地生成样本以揭示公平性违背。然而，现有测试方法在可解释性、性能和泛化性三方面仍存在局限。为应对这些挑战，我们提出 NeuronFair，一种全新的 DNN 公平性测试框架，其在若干关键方面不同于以往工作：（1）可解释——它定量解释 DNNs 针对偏置决策的公平性违背；（2）高效——它利用解释结果在更短时间内引导生成更多样化的样本；（3）通用——它能处理结构化与非结构化数据。在 7 个数据集及相应 DNNs 上的大量评估证明了 NeuronFair 的优越性能。例如，在结构化数据集上，相较于最先进方法，它生成的样本量多出约 5.84 倍，并节省更多时间（平均加速 534.56%）。此外，NeuronFair 的样本也可用于改善偏置 DNNs 的公平性，从而有助于构建更公平、可信的深度学习系统。
引用
@article{arxiv.2112.13214,
title = {NeuronFair: Interpretable White-Box Fairness Testing through Biased Neuron Identification},
author = {Haibin Zheng and Zhiqing Chen and Tianyu Du and Xuhong Zhang and Yao Cheng and Shouling Ji and Jingyi Wang and Yue Yu and Jinyin Chen},
journal= {arXiv preprint arXiv:2112.13214},
year = {2021}
}