基于层可持续性分析（LSA）框架的逐层正则化对抗训练
计算机视觉与模式识别
2022-02-16 v3
摘要
深度神经网络模型如今用于人工智能的各种应用中，面对对抗攻击时其加固尤为重要。对抗训练是对抗攻击的适当解决方案，它在鲁棒性与泛化之间达到权衡。本文介绍了一种新颖的框架（层可持续性分析（LSA）），用于在对抗攻击场景下分析任意神经网络中的层脆弱性。LSA 可作为一个有用的工具包来评估深度神经网络，并通过层监控与分析将对抗训练方法扩展至改善模型层的可持续性。LSA 框架识别出给定网络的最脆弱层列表（MVL list）。相对误差作为一种比较度量，用于评估各层针对对抗输入的表示可持续性。所提出的用于获得鲁棒神经网络以抵御对抗攻击的方法基于针对对抗训练（AT）的 LSA 提议的逐层正则化（LR），即 AT-LR 过程。AT-LR 可与任何基准对抗攻击配合使用，以降低网络层的脆弱性并改进常规对抗训练方法。所提思想在最先进的多层感知机与卷积神经网络架构上在理论与实验上均表现良好。与 AT-LR 及其对应的基础对抗训练相比，在 Moon、MNIST 和 CIFAR-10 基准数据集上，对更显著扰动的分类准确率分别提高了 16.35%、21.79% 和 10.730%。LSA 框架已发布于 https://github.com/khalooei/LSA。
引用
@article{arxiv.2202.02626,
title = {Layer-wise Regularized Adversarial Training using Layers Sustainability Analysis (LSA) framework},
author = {Mohammad Khalooei and Mohammad Mehdi Homayounpour and Maryam Amirmazlaghani},
journal= {arXiv preprint arXiv:2202.02626},
year = {2022}
}
备注
Layers Sustainability Analysis (LSA) framework