以超球面嵌入增强对抗训练
机器学习
2020-11-26 v3 密码学与安全
计算机视觉与模式识别
机器学习
摘要
对抗训练(AT)是深度学习模型抵御对抗攻击最有效的防御手段之一。在这项工作中，我们倡导将超球面嵌入(HE)机制引入AT过程，通过将特征正则化到紧致流形上，构成一个轻量而有效的模块，以融合表示学习的优势。我们的广泛分析揭示，AT与HE良好耦合，从多个方面有益于对抗训练模型的鲁棒性。我们通过将HE嵌入包括PGD-AT、ALP和TRADES在内的流行AT框架，以及FreeAT和FastAT策略，验证了HE的有效性与适应性。在实验中，我们在CIFAR-10和ImageNet数据集上的一系列广泛对抗攻击下评估了我们的方法，证实集成HE能持续增强各AT框架的模型鲁棒性，且几乎不带来额外计算开销。
引用
@article{arxiv.2002.08619,
title = {Boosting Adversarial Training with Hypersphere Embedding},
author = {Tianyu Pang and Xiao Yang and Yinpeng Dong and Kun Xu and Jun Zhu and Hang Su},
journal= {arXiv preprint arXiv:2002.08619},
year = {2020}
}
备注
NeurIPS 2020