L-Lipschitz Gershgorin ResNet 网络

深度残差网络（ResNets）在计算机视觉任务中取得了出色的成功，这归功于它们在深度架构中保持梯度流的能力。同时，控制神经网络中的 Lipschitz 界已成为增强对抗鲁棒性和网络可验证性的一个重要研究领域。本文使用严格的方法，利用线性矩阵不等式（LMI）框架设计 $\mathcal{L}$-Lipschitz 深度残差网络。将 ResNet 架构重构为具有非对角元素的伪三对角 LMI，并推导了网络参数的闭式约束，以确保 $\mathcal{L}$-Lipschitz 连续性。为了解决此类矩阵结构缺乏显式特征值计算的问题，采用 Gershgorin 圆盘定理来近似特征值位置，从而保证 LMI 的半负定性。我们的贡献包括一种用于构建 Lipschitz 约束网络的可证明参数化方法，以及一种用于管理分层架构中递归系统的组合框架。这些发现使得稳健的网络设计适用于对抗鲁棒性、认证训练和控制系统。然而，我们也发现了基于 Gershgorin 的近似存在一个局限性，即它对系统过度约束，抑制了非线性动力学并降低了网络的表达能力。