去噪内部模型：一种受大脑启发的自编码器以抵御对抗攻击
计算机视觉与模式识别
2023-03-07 v4
摘要
尽管深度学习取得了巨大成功，但其鲁棒性严重不足；即深度神经网络即便面对最简单的攻击也非常脆弱。受脑科学近期进展启发，我们提出去噪内部模型（DIM），一种基于生成式自编码器的新型模型来应对该挑战。DIM 模拟人脑视觉信号处理流程，采用两阶段方法。第一阶段，DIM 使用去噪器降低输入噪声与维度，反映丘脑中的信息预处理。受初级视觉皮层中记忆相关迹的稀疏编码启发，第二阶段为每一类别生成一组内部模型。我们在 42 种对抗攻击下评估了 DIM，表明 DIM 能有效防御所有攻击，并在整体鲁棒性上优于 SOTA。
引用
@article{arxiv.2111.10844,
title = {Denoised Internal Models: a Brain-Inspired Autoencoder against Adversarial Attacks},
author = {Kaiyuan Liu and Xingyu Li and Yurui Lai and Ge Zhang and Hang Su and Jiachen Wang and Chunxu Guo and Jisong Guan and Yi Zhou},
journal= {arXiv preprint arXiv:2111.10844},
year = {2023}
}
备注
16 pages, 3 figures