深度神经网络的 ε-弱化鲁棒性
机器学习
2021-11-01 v1 人工智能
摘要
本文引入一种 ε-弱化鲁棒性（ε-weakened robustness）的记法，用于分析深度神经网络（DNNs）的可靠性与稳定性。与关注无对抗样本时“完美”安全区域的常规鲁棒性不同，ε-弱化鲁棒性关注对抗样本比例由用户指定 ε 所界定的区域。较小的 ε 意味着较小的失效概率。在此鲁棒性定义下，我们能为常规鲁棒性所忽略的区域给出确定性结果。我们证明 ε-弱化鲁棒性判定问题是 PP-完全的，并给出一种具有用户可控误差界的统计判定算法。此外，我们推导出一种寻找最大 ε-弱化鲁棒性半径的算法。我们算法的时间复杂度在网络维数与规模上均为多项式级，因此可扩展至大型真实网络。此外，我们还展示了其在分析质量问题中的潜在应用。
引用
@article{arxiv.2110.15764,
title = {{\epsilon}-weakened Robustness of Deep Neural Networks},
author = {Pei Huang and Yuting Yang and Minghao Liu and Fuqi Jia and Feifei Ma and Jian Zhang},
journal= {arXiv preprint arXiv:2110.15764},
year = {2021}
}