公平性增加对抗脆弱性
机器学习
2022-11-24 v2 人工智能
密码学与安全
摘要
深度学习模型卓越的性能及其在重大领域（例如人脸识别）中的应用，在公平性与安全性的交叉点上带来了重要挑战。公平性与鲁棒性是在学习模型中常被要求的两种期望性质。公平性确保模型不会对某些群体造成不成比例的损害（或益处），而鲁棒性衡量模型对微小输入扰动的抵御能力。本文展示了公平性与鲁棒性之间二分法的存在，并分析了何时实现公平性会降低模型对对抗样本的鲁棒性。所报告的分析揭示了导致此种对比行为的因素，指出跨群体的决策边界距离是该行为的关键解释量。在非线性模型和不同架构上的大量实验在多个视觉领域验证了理论发现。最后，本文提出了一种简单而有效的方案，以构建在公平性与鲁棒性之间取得良好权衡的模型。
引用
@article{arxiv.2211.11835,
title = {Fairness Increases Adversarial Vulnerability},
author = {Cuong Tran and Keyu Zhu and Ferdinando Fioretto and Pascal Van Hentenryck},
journal= {arXiv preprint arXiv:2211.11835},
year = {2022}
}