PRoA：一种针对功能性扰动的概率鲁棒性评估方法
机器学习
2022-07-06 v1 人工智能
计算机视觉与模式识别
机器学习
摘要
在安全关键的深度学习应用中，鲁棒性度量是一个至关重要的部署前阶段。然而，现有的鲁棒性验证方法不足以实用地将机器学习系统部署到现实世界中。一方面，这些方法试图声称没有任何扰动能够“欺骗”深度神经网络（DNNs），这在实际中可能过于严苛。另一方面，现有工作严格考虑像素空间上有界加性扰动，尽管诸如色彩偏移和几何变换等扰动在现实世界中更实际且频繁发生。因此，从实际角度出发，我们提出了一种新颖且通用的基于自适应集中性的{\it 概率鲁棒性评估方法}（PRoA），它能够度量深度学习模型针对功能性扰动的鲁棒性。PRoA可以提供模型概率鲁棒性的统计保证，\textit{即}训练后模型部署遭遇失败的概率。我们的实验证明了PRoA在评估针对广泛功能性扰动的概率鲁棒性方面的有效性与灵活性，并且与现有最先进的基线相比，PRoA能很好地扩展到各种大规模深度神经网络。为了可复现性，我们在GitHub上发布了我们的工具：\url{ https://github.com/TrustAI/PRoA}。
引用
@article{arxiv.2207.02036,
title = {PRoA: A Probabilistic Robustness Assessment against Functional Perturbations},
author = {Tianle Zhang and Wenjie Ruan and Jonathan E. Fieldsend},
journal= {arXiv preprint arXiv:2207.02036},
year = {2022}
}
备注
The short version of this work will appear in the Proceedings of the 2022 European Conference on Machine Learning and Data Mining (ECML-PKDD 2022)