理解对抗鲁棒性对准确率差异的影响
机器学习
2023-05-30 v2 机器学习
摘要
虽然长期以来经验观察到对抗鲁棒性可能与标准准确率相悖，并可能对不同类别产生进一步的差异性影响，但这些观察在多大程度上成立以及类别不平衡在其中扮演什么角色，仍然是一个悬而未决的问题。在本文中，我们试图通过在高斯混合模型下更仔细地审视线性分类器来理解这个准确率差异问题。我们将对抗鲁棒性的影响分解为两部分：一是由于鲁棒性约束而降低所有类别标准准确率的固有效应；二是由类别不平衡比率引起的效应，与标准训练相比，这会增加准确率差异。此外，我们还通过将数据模型推广到一般的稳定分布族，证明了这种效应超出了高斯混合模型。更具体地说，我们证明，虽然在平衡类别设置中，对抗鲁棒性约束会持续降低标准准确率，但由于稳定分布的重尾特性，与高斯情况相比，类别不平衡比率在准确率差异中扮演了根本不同的角色。我们还在合成数据集和真实世界数据集上进行了实验，以证实我们的理论发现。我们的实证结果还表明，这些影响可能扩展到真实世界数据集上的非线性模型。我们的代码已在 GitHub 上公开：https://github.com/Accuracy-Disparity/AT-on-AD。
引用
@article{arxiv.2211.15762,
title = {Understanding the Impact of Adversarial Robustness on Accuracy Disparity},
author = {Yuzheng Hu and Fan Wu and Hongyang Zhang and Han Zhao},
journal= {arXiv preprint arXiv:2211.15762},
year = {2023}
}
备注
Accepted at ICML 2023