无忘记防御：基于各向异性与各向同性伪回放的持续对抗防御
机器学习
2024-04-03 v1 人工智能
摘要
深度神经网络对对抗性攻击表现出敏感性。对抗防御技术通常侧重于单次设置，以维持对攻击的鲁棒性。然而，在实际部署场景中，新攻击可能以序列形式出现。因此，防御模型必须不断适应新攻击，但适应过程可能导致对先前防御的攻击的遗忘。在本文中，我们首次讨论了在攻击序列下的持续对抗防御概念，提出了一种名为各向异性与各向同性伪回放（AIR）的终身防御基线，该方法具有三个优势：(1) 各向同性回放确保新数据邻域分布中的模型一致性，间接地在旧任务和新任务之间对齐输出偏好。(2) 各向异性回放使模型能够学习一种新的混合语义数据流形，以便进一步的回放约束和潜在的未来攻击。(3) 一个简单的正则化器通过对齐新旧任务之间的模型输出来缓解“塑性-稳定性”权衡。实验结果表明，AIR 能在近似或甚至超过联合训练所达到的经验性能上限方面取得好结果。
引用
@article{arxiv.2404.01828,
title = {Defense without Forgetting: Continual Adversarial Defense with Anisotropic & Isotropic Pseudo Replay},
author = {Yuhang Zhou and Zhongyun Hua},
journal= {arXiv preprint arXiv:2404.01828},
year = {2024}
}