Ortho-ODE：增强神经常微分方程抵御对抗攻击的鲁棒性
机器学习
2023-05-17 v1 人工智能
密码学与安全
摘要
神经常微分方程（NODEs）探索了使用数值求解器求解由神经网络（NN）刻画的微分方程，从而开启了具有无限深度的深度学习模型新范式。NODEs 旨在解决不规则时间序列问题。然而，NODEs 已展现出针对各种噪声与对抗攻击的鲁棒性。本文关注 NODEs 的天然鲁棒性，并考察这一惊人行为背后的成因。我们表明，通过控制 ODE 动态的 Lipschitz 常数可显著提升鲁棒性。我们的方法由 Grownwall 不等式推导而来。进一步，我们建立了收缩性理论与 Grownwall 不等式之间的关联。我们在多个数据集（MNIST、CIFAR-10 与 CIFAR 100）上实验验证了增强的鲁棒性。我们还展示了自适应与非自适应求解器对 NODEs 鲁棒性的影响。
引用
@article{arxiv.2305.09179,
title = {Ortho-ODE: Enhancing Robustness and of Neural ODEs against Adversarial Attacks},
author = {Vishal Purohit},
journal= {arXiv preprint arXiv:2305.09179},
year = {2023}
}
备注
Final project paper