MAFT：基于零阶梯度搜索的深度神经网络高效模型无关公平性测试
机器学习
2024-12-31 v1 人工智能
计算机与社会
软件工程
摘要
深度神经网络(DNN)在各类应用中展现出强大的性能，日益被用于决策系统。然而，关于DNN公平性的担忧始终存在。一些高效的基于白盒的公平性测试方法针对个体公平性已提出。然而，黑盒方法的开发停滞，现有方法的性能远落后于白盒方法。在本文中，我们提出一种新型黑盒个体公平性测试方法，称为模型无关公平性测试(MAFT)。通过运用MAFT，实践者可以有效识别并消除深度学习模型中的歧视，无需关心所采用的具体算法或架构。我们的方法采用梯度估计和属性扰动等轻量级程序，而非符号执行等复杂程序，从而显著提升了可扩展性和适用性。我们展示了MAFT在达到与SOTA白盒方法相同效果方面的能力，同时提升了大规模网络的适用性。与现有黑盒方法相比，我们的方法在发现公平性违规方面在有效性（约提升14.69倍）和效率（约提升32.58倍）上均表现突出。
引用
@article{arxiv.2412.20086,
title = {MAFT: Efficient Model-Agnostic Fairness Testing for Deep Neural Networks via Zero-Order Gradient Search},
author = {Zhaohui Wang and Min Zhang and Jingran Yang and Bojie Shao and Min Zhang},
journal= {arXiv preprint arXiv:2412.20086},
year = {2024}
}
备注
Accepted by ICSE24