通过隐空间对抗扰动实现可靠快速的对抗训练
机器学习
2021-11-30 v2
摘要
尽管多步对抗训练作为抵御强对抗攻击的有效防御方法被广泛使用，但相较于标准训练，其计算代价声名狼藉地昂贵。已有若干单步对抗训练方法被提出以缓解上述开销；然而，其性能在优化设置不同时不够可靠。为克服此类局限，我们偏离现有的基于输入空间的对抗训练范式，提出一种单步隐空间对抗训练方法（SLAT），其利用隐表示的梯度作为隐空间对抗扰动。我们证明，所采用的隐空间扰动隐式正则化了特征梯度的 L1 范数，从而恢复局部线性并确保可靠性能，优于现有单步对抗训练方法。由于隐空间扰动基于隐表示的梯度，而该梯度在输入梯度计算过程中可免费获得，所提方法耗时约与快速梯度符号方法相同。实验结果表明，尽管结构简洁，所提方法优于最先进的加速对抗训练方法。
引用
@article{arxiv.2104.01575,
title = {Reliably fast adversarial training via latent adversarial perturbation},
author = {Geon Yeong Park and Sang Wan Lee},
journal= {arXiv preprint arXiv:2104.01575},
year = {2021}
}
备注
ICCV 2021 (Oral)