FairQuant：深度神经网络的公平性认证与量化
机器学习
2024-10-14 v2 软件工程
摘要
我们提出了一种形式化认证与量化深度神经网络（DNN）个体公平性的方法。个体公平性保证任何两个除受法律保护属性（如性别或种族）外完全相同的个体受到同等对待。尽管已有技术提供此类保证，但随着DNN规模和输入维度的增加，它们往往面临可扩展性不足或准确性下降的问题。我们的方法通过对DNN的符号区间分析应用抽象，并结合公平性属性引导的迭代细化，克服了这一局限性。此外，我们的方法通过计算分类输出可证明公平的个体百分比，而非仅仅判定DNN是否公平，将基于符号区间的分析从传统的定性认证提升至定量认证。我们实现了该方法，并在四个流行的公平性研究数据集上训练的深度神经网络进行了评估。实验结果表明，我们的方法不仅比现有技术更准确，而且速度快了几个数量级。
引用
@article{arxiv.2409.03220,
title = {FairQuant: Certifying and Quantifying Fairness of Deep Neural Networks},
author = {Brian Hyeongseok Kim and Jingbo Wang and Chao Wang},
journal= {arXiv preprint arXiv:2409.03220},
year = {2024}
}
备注
Accepted at ICSE 2025; To Appear In Proceedings of the 47th IEEE/ACM International Conference on Software Engineering