通过鲁棒性实现公平：深度学习中鲁棒性差异的实证研究
机器学习
2021-01-22 v4 计算机与社会
摘要
深度神经网络（DNNs）正越来越多地用于现实世界应用（如人脸识别）。这引发了人们对这些模型决策公平性的担忧。为确保决策系统不会不成比例地损害（或有益于）特定子群体，人们提出了各种公平性的概念与度量。在本文中，我们认为当模型易受对抗攻击时，仅基于模型输出的传统公平性概念是不够的。我们认为在某些情况下，攻击者可能更容易针对特定子群体，从而导致一种鲁棒性偏差。我们表明度量 DNNs 的鲁棒性偏差是一项具有挑战性的任务，并提出了两种度量该偏差的方法。随后我们在 CIFAR-10、CIFAR-100、Adience 和 UTKFace 等常用真实数据集上对已是最优（state-of-the-art）的神经网络进行实证研究，表明在几乎所有情况下都存在鲁棒性较低从而处于劣势的子群体（某些情况下基于种族、性别等敏感属性）。我们认为此类偏差源于数据分布以及 DNNs 所学决策边界的高度复杂性，因此缓解此类偏差并非易事。我们的结果表明，在审计依赖 DNNs 进行决策的实时系统时，鲁棒性偏差是一个重要的考量标准。复现我们所有结果的代码见：\url{https://github.com/nvedant07/Fairness-Through-Robustness}
引用
@article{arxiv.2006.12621,
title = {Fairness Through Robustness: Investigating Robustness Disparity in Deep Learning},
author = {Vedant Nanda and Samuel Dooley and Sahil Singla and Soheil Feizi and John P. Dickerson},
journal= {arXiv preprint arXiv:2006.12621},
year = {2021}
}
备注
Accepted at ACM Conference on Fairness, Accountability, and Transparency (FAccT) 2021