针对支持向量机的投毒攻击
机器学习
2013-03-26 v3 密码学与安全
机器学习
摘要
我们研究了一类针对支持向量机 (SVM) 的投毒攻击。此类攻击注入精心构造的训练数据，以增加 SVM 的测试误差。这些攻击的核心动机在于，大多数学习算法假设其训练数据来自自然或表现良好的分布。然而，这一假设在安全敏感场景中通常不成立。正如我们所展示的，智能对手在一定程度上可以预测由于恶意输入导致的 SVM 决策函数的变化，并利用这种能力构造恶意数据。所提出的攻击使用梯度上升策略，其中梯度是基于 SVM 最优解的性质计算的。该方法可以进行核化，使得即使在非线性核的情况下也能在输入空间中构造攻击。实验表明，我们的梯度上升过程能可靠地识别非凸验证误差曲面上良好的局部最大值，从而显著增加分类器的测试误差。
引用
@article{arxiv.1206.6389,
title = {Poisoning Attacks against Support Vector Machines},
author = {Battista Biggio and Blaine Nelson and Pavel Laskov},
journal= {arXiv preprint arXiv:1206.6389},
year = {2013}
}
备注
Appears in Proceedings of the 29th International Conference on Machine Learning (ICML 2012)