预训练的多个潜变量生成模型是对抗攻击的优秀防御者
计算机视觉与模式识别
2024-12-05 v1
摘要
攻击者可以刻意扰动分类器的输入，加入细微的噪声，从而改变最终预测。尽管提出了各种防御措施，但对抗净化通过生成网络预处理输入图像来过滤掉对抗噪声。本研究提出了用于对抗净化的特定生成器，称为多个潜变量生成模型（Multiple Latent Variable Generative Models, MLVGMs）。这些模型拥有多个潜变量，自然地将粗糙特征与细节特征分离。凭借这些特性，我们对图像进行自编码，以维护与类别相关的信息，同时丢弃和重新采样任何细节，包括对抗噪声。该程序完全无需训练，探索预训练 MLVGMs 在对抗净化下游任务上的泛化能力。尽管缺乏大型模型（在数十亿样本上训练），我们证明更小的 MLVGMs 已经与传统方法相当，可用作基础模型。官方代码发布于 https://github.com/SerezD/gen_adversarial。
引用
@article{arxiv.2412.03453,
title = {Pre-trained Multiple Latent Variable Generative Models are good defenders against Adversarial Attacks},
author = {Dario Serez and Marco Cristani and Alessio Del Bue and Vittorio Murino and Pietro Morerio},
journal= {arXiv preprint arXiv:2412.03453},
year = {2024}
}