分类器规避攻击中梯度下降方法的适用性
密码学与安全
2017-05-26 v2 机器学习
机器学习
摘要
尽管机器学习在包括计算机安全在内的对抗性环境中得到广泛应用，近期研究已证明其存在规避攻击的漏洞——即精心制作的对抗样本与合法实例极为相似，但会导致误分类。本文中，我们考察了生成对抗样本的主流方法——梯度下降方法的充分性。具体而言：（1）我们在三个数据集MNIST、USPS和Spambase上进行大量实验，以分析梯度下降方法针对非线性支持向量机的有效性，并得出结论：仔细降低核平滑度可显著增强对攻击的鲁棒性；（2）我们证明分离的类别间支持向量可带来更安全的模型，并提出一种类似于间隔的量，可在攻击发起前有效预测对梯度下降攻击的潜在易感性；（3）我们设计了一种新的对抗样本构建算法，其基于优化类决策函数的乘性比率。
引用
@article{arxiv.1704.01704,
title = {Adequacy of the Gradient-Descent Method for Classifier Evasion Attacks},
author = {Yi Han and Benjamin I. P. Rubinstein},
journal= {arXiv preprint arXiv:1704.01704},
year = {2017}
}
备注
10 pages, 7 figures, 10 tables