基于密钥多样化聚合与预滤波的深度网络分类器鲁棒化
机器学习
2019-05-15 v1 密码学与安全
机器学习
摘要
本文中，我们解决机器学习系统对对抗攻击的脆弱性问题。我们提出并研究一种基于密钥的多样化聚合 (KDA) 机制作为防御策略。KDA 假设攻击者 (i) 知晓分类器架构与所用防御策略，(ii) 可访问训练数据集但 (iii) 不知晓密钥。系统的鲁棒性通过专门设计的基于密钥的随机化实现。所提随机化阻止梯度反向传播或创建“旁路”系统。该随机化在多个通道中同时执行，且多通道聚合通过聚合多通道系统中各分类器的软输出来稳定随机化结果。所进行的实验评估表明 KDA 针对最高效的基于梯度的攻击（如 N. Carlini 和 D. Wagner 所提）以及非基于梯度的稀疏对抗扰动（如 OnePixel 攻击）具有高鲁棒性与通用性。
引用
@article{arxiv.1905.05454,
title = {Robustification of deep net classifiers by key based diversified aggregation with pre-filtering},
author = {Olga Taran and Shideh Rezaeifar and Taras Holotyak and Slava Voloshynovskiy},
journal= {arXiv preprint arXiv:1905.05454},
year = {2019}
}