Lipschitz 神经网络的动力系统视角
机器学习
2022-02-02 v2
摘要
神经网络的 Lipschitz 常数已被确立为增强对抗样本鲁棒性的关键量。在本文中，我们着手解决构建 -Lipschitz 神经网络的问题。通过从连续时间动力系统的视角研究残差网络，我们提供了一种构建 -Lipschitz 神经网络的通用方法，并表明先前的一些方法是该框架的特例。随后，我们推广了这一推理，表明由凸势导出的 ResNet 流定义了 -Lipschitz 变换，这引导我们定义了{\em 凸势层}（CPL）。在多个数据集上的一系列综合实验证明了我们架构的可扩展性以及作为对抗 对抗样本的可证明防御的优势。
引用
@article{arxiv.2110.12690,
title = {A Dynamical System Perspective for Lipschitz Neural Networks},
author = {Laurent Meunier and Blaise Delattre and Alexandre Araujo and Alexandre Allauzen},
journal= {arXiv preprint arXiv:2110.12690},
year = {2022}
}