具有 Lyapunov 稳定平衡点的稳定神经 ODE 用于防御对抗攻击
机器学习
2021-10-26 v1 密码学与安全
计算机视觉与模式识别
摘要
深度神经网络（DNNs）众所周知易受对抗攻击，即在输入中加入人眼难以察觉的恶意扰动以欺骗网络做出错误分类。近期研究表明，神经常微分方程（ODEs）相比普通 DNNs 本质上对对抗攻击更具鲁棒性。本工作中，我们提出一种具有 Lyapunov 稳定平衡点以防御对抗攻击的稳定神经 ODE（SODEF）。通过确保作为 SODEF 一部分的 ODE 解的平衡点为 Lyapunov 稳定的，带有小扰动的输入的 ODE 解会收敛到与无扰动输入相同的解。我们提供了理论结果，以深入揭示 SODEF 的稳定性以及为确保其稳定性而选择正则化项的方法。我们的分析表明，所提出的正则化项迫使提取的特征点处于 ODE 的 Lyapunov 稳定平衡点的邻域内。SODEF 与多种防御方法兼容，并可应用于任意神经网络的最后回归层以增强其对抗对抗攻击的稳定性。
引用
@article{arxiv.2110.12976,
title = {Stable Neural ODE with Lyapunov-Stable Equilibrium Points for Defending Against Adversarial Attacks},
author = {Qiyu Kang and Yang Song and Qinxu Ding and Wee Peng Tay},
journal= {arXiv preprint arXiv:2110.12976},
year = {2021}
}