重新思考分类器与对抗攻击
机器学习
2022-05-17 v2 人工智能
密码学与安全
摘要
已有多种防御模型被提出以抵御对抗攻击算法，但现有的对抗鲁棒性评估方法总是高估这些模型的对抗鲁棒性（即未逼近鲁棒性下界）。为解决此问题，本文利用所提解耦空间方法将分类器划分为两部分：非线性与线性。进而，本文定义了原始样本（及其空间，即表示空间）的表示向量，并使用绝对分类边界初始化（ACBI）的迭代优化来获得更好的攻击起点。特别地，本文将 ACBI 应用于近 50 种广泛使用的防御模型（含 8 种架构）。实验结果表明，ACBI 在所有情形下均取得了更低的鲁棒准确率。
引用
@article{arxiv.2205.02743,
title = {Rethinking Classifier and Adversarial Attack},
author = {Youhuan Yang and Lei Sun and Leyu Dai and Song Guo and Xiuqing Mao and Xiaoqin Wang and Bayi Xu},
journal= {arXiv preprint arXiv:2205.02743},
year = {2022}
}