自监督深度网络的对抗预训练：过去、现在与未来
机器学习
2022-10-26 v1 人工智能
计算机视觉与模式识别
摘要
本文综述自监督深度网络（包括卷积神经网络与视觉 transformer）的对抗预训练。不同于可访问带标签样本的对抗训练，对抗预训练更为复杂，因其仅能访问无标签样本。为将对抗扰动引入输入或特征层面的预训练模型，我们发现现有方法大致分为两类：对单个样本施加最坏情况扰动的无记忆实例级攻击，以及跨迭代在样本间共享的有记忆对抗者。我们特别分别基于对比学习（CL）与掩码图像建模（MIM）——文献中两种流行的自监督预训练方法——综述若干代表性对抗预训练模型。我们还综述关于计算开销、输入/特征级对抗者以及上述两类之外其他对抗预训练方法的各类问题。最后，我们讨论关于对抗与协作预训练关系、统一对抗 CL 与 MIM 预训练、以及对抗预训练中准确率与鲁棒性权衡的新兴趋势与未来方向。
引用
@article{arxiv.2210.13463,
title = {Adversarial Pretraining of Self-Supervised Deep Networks: Past, Present and Future},
author = {Guo-Jun Qi and Mubarak Shah},
journal= {arXiv preprint arXiv:2210.13463},
year = {2022}
}