一种针对一维模型对抗攻击的深度边缘对比防御方法
密码学与安全
2020-12-10 v1 人工智能
摘要
由于其脆弱性，深度学习算法近来成为攻击者的目标。已有若干研究致力于解决此问题并构建更鲁棒的深度学习模型。非连续深度模型对对抗样本仍不鲁棒，而近期大多数研究集中于开发攻击技术以规避模型的学习过程。此类模型脆弱性的主要原因之一是学习分类器无法对扰动样本进行轻微预测。为解决此问题，我们提出一种新颖的目标/损失函数，即所谓的边缘对比（marginal contrastive）损失，它强制特征位于指定边界之下，以利用深度卷积网络（即Char-CNN）促进其预测。我们在连续案例（如UNSW NB15数据集）和离散案例（即八个大规模数据集[32]）上进行了大量实验，以证明所提方法的有效性。结果表明，基于所提损失函数对学习过程进行正则化可提升Char-CNN的性能。
引用
@article{arxiv.2012.04734,
title = {A Deep Marginal-Contrastive Defense against Adversarial Attacks on 1D Models},
author = {Mohammed Hassanin and Nour Moustafa and Murat Tahtali},
journal= {arXiv preprint arXiv:2012.04734},
year = {2020}
}