关于 CLEVER 的扩展：一种神经网络鲁棒性评估算法
机器学习
2018-10-23 v1 密码学与安全
机器学习
摘要
CLEVER（Cross-Lipschitz Extreme Value for nEtwork Robustness）是一种基于极值理论（EVT）的面向大规模深度神经网络（DNNs）的鲁棒性分数。本文中，我们提出该鲁棒性分数的两种扩展。首先，我们为二阶可微的分类器函数提供新的形式化鲁棒性保证。我们将极值理论应用于该新形式化鲁棒性保证，所估计的鲁棒性称为二阶 CLEVER 分数。其次，我们讨论如何使用带反向传播可微近似（BPDA）的 CLEVER 处理梯度掩蔽这一常见防御技术。应用 BPDA 后，CLEVER 可评估更广泛类别神经网络的固有鲁棒性——具有不可微输入变换的网络。我们在 ImageNet 数据集上训练的 121 层 Densenet 模型实验中展示了带 BPDA 的 CLEVER 的有效性。
引用
@article{arxiv.1810.08640,
title = {On Extensions of CLEVER: A Neural Network Robustness Evaluation Algorithm},
author = {Tsui-Wei Weng and Huan Zhang and Pin-Yu Chen and Aurelie Lozano and Cho-Jui Hsieh and Luca Daniel},
journal= {arXiv preprint arXiv:1810.08640},
year = {2018}
}
备注
Accepted by GlobalSIP 2018. Tsui-Wei Weng and Huan Zhang contributed equally