探索用 DINO 训练的视觉 Transformer 中的对抗攻击与防御
计算机视觉与模式识别
2022-09-09 v4 人工智能
摘要
本文首次对使用 DINO 训练的自监督视觉 Transformer 针对对抗攻击的鲁棒性进行了分析。首先，我们评估通过自监督学习的特征是否比从监督学习中产生的特征对对抗攻击更具鲁棒性。接着，我们呈现潜在空间中出现的攻击特性。最后，我们评估三种知名防御策略能否仅通过微调分类头来提高下游任务中的对抗鲁棒性，从而在计算资源有限的情况下也提供鲁棒性。这些防御策略是：对抗训练、集成对抗训练和专用网络集成。
引用
@article{arxiv.2206.06761,
title = {Exploring Adversarial Attacks and Defenses in Vision Transformers trained with DINO},
author = {Javier Rando and Nasib Naimi and Thomas Baumann and Max Mathys},
journal= {arXiv preprint arXiv:2206.06761},
year = {2022}
}
备注
ICML 2022 Workshop paper accepted at AdvML Frontiers