基于区间界传播的认证鲁棒训练收敛性研究
机器学习
2022-03-18 v1
摘要
区间界传播(IBP)迄今是基于最先进方法的基石,用于在存在潜在对抗扰动时训练具有可认证鲁棒性保证的神经网络,而现有文献中 IBP 训练的收敛性仍未知。在本文中,我们对 IBP 训练的收敛性进行理论分析。在过参数化假设下,我们分析了 IBP 鲁棒训练的收敛性。我们表明,当使用 IBP 训练以逻辑损失随机初始化一个两层 ReLU 神经网络时,若扰动半径足够小且网络宽度足够大,梯度下降可以高概率线性收敛到零鲁棒训练误差。
引用
@article{arxiv.2203.08961,
title = {On the Convergence of Certified Robust Training with Interval Bound Propagation},
author = {Yihan Wang and Zhouxing Shi and Quanquan Gu and Cho-Jui Hsieh},
journal= {arXiv preprint arXiv:2203.08961},
year = {2022}
}
备注
ICLR 2022