基于序列化随机平滑的深度平衡模型认证鲁棒性
机器学习
2024-11-05 v1 人工智能
摘要
隐式模型如深度平衡模型 (DEQ) 已成为构建深度神经网络的有前景替代方案。出于安全考虑，其认证鲁棒性受到越来越多关注。现有基于确认性认证方法（如区间传播与 Lipschitz 界）的 DEQ 认证防御无法在大规模数据集上认证，且仅适用于特定形式的 DEQ。本文为 DEQ 提供首个基于随机平滑的认证防御以解决这些局限。研究发现，直接对 DEQ 应用随机平滑虽能推广至大规模数据集，但计算开销极大。为减少计算冗余，我们提出一种新颖的序列化随机平滑 (SRS) 方法，利用历史信息加速认证。此外，我们推导出 SRS 的新认证半径估计，从理论上保证算法正确性。图像识别上的大量实验与消融研究表明，该算法在几乎不牺牲认证准确率的前提下，将 DEQ 认证速度提升高达 7 倍。代码已公开：https://github.com/WeizhiGao/Serialized-Randomized-Smoothing。
引用
@article{arxiv.2411.00899,
title = {Certified Robustness for Deep Equilibrium Models via Serialized Random Smoothing},
author = {Weizhi Gao and Zhichao Hou and Han Xu and Xiaorui Liu},
journal= {arXiv preprint arXiv:2411.00899},
year = {2024}
}
备注
16 pages, 25 figures, NeurIPS 2024 accepted