展开局部增长率估计以实现（近乎）完美的对抗检测
计算机视觉与模式识别
2024-03-04 v5 密码学与安全
摘要
卷积神经网络（CNN）在许多感知任务上定义了最先进的解决方案。然而，当前的 CNN 方法在很大程度上仍易受针对输入精心构造的对抗扰动的影响，这些扰动旨在欺骗系统，同时对人眼几乎不可察觉。近年来，人们提出了各种方法来防御此类攻击，例如通过模型加固或添加显式防御机制。其中，网络中包含一个小型“检测器”，并在区分真实数据与含对抗扰动数据的二分类任务上进行训练。在本工作中，我们提出了一种简单且轻量的检测器，其利用了近期关于网络局部本征维数（LID）与对抗攻击之间关系的发现。基于对 LID 度量的重新解读与若干简单适配，我们在对抗检测上大幅超越了最先进水平，并在多个网络与数据集上就 F1 分数而言取得了近乎完美的结果。源代码见：https://github.com/adverML/multiLID
引用
@article{arxiv.2212.06776,
title = {Unfolding Local Growth Rate Estimates for (Almost) Perfect Adversarial Detection},
author = {Peter Lorenz and Margret Keuper and Janis Keuper},
journal= {arXiv preprint arXiv:2212.06776},
year = {2024}
}
备注
accepted at VISAPP23