CC-Cert：一种证明神经网络通用鲁棒性的概率方法
机器学习
2022-08-16 v2 人工智能
摘要
在安全关键机器学习应用中，防御模型抵御对抗攻击——即改变预测的输入微小修改——至关重要。除了严格研究的 有界加性扰动外，近期提出的语义扰动（如旋转、平移）对现实部署 ML 系统提出了严重关切。因此，为深度学习模型针对语义有意义的输入变换提供可证明保证十分重要。本文中，我们提出一种基于 Chernoff-Cramer 界的新通用概率认证方法，可用于一般攻击设定。我们估计若攻击从某分布中采样时模型失败的概率。我们的理论发现得到不同数据集上实验结果的支持。
引用
@article{arxiv.2109.10696,
title = {CC-Cert: A Probabilistic Approach to Certify General Robustness of Neural Networks},
author = {Mikhail Pautov and Nurislam Tursynbek and Marina Munkhoeva and Nikita Muravev and Aleksandr Petiushko and Ivan Oseledets},
journal= {arXiv preprint arXiv:2109.10696},
year = {2022}
}
备注
In Proceedings of AAAI-22, the Thirty-Sixth AAAI Conference on Artificial Intelligence