防御支持向量机免受投毒攻击：困难性与DBSCAN方法
机器学习
2021-02-23 v5 计算几何
密码学与安全
机器学习
摘要
对抗性机器学习近年来引起了广泛关注。在投毒攻击中，攻击者可以向训练数据中注入少量特制样本，使决策边界严重偏离并导致意外的错误分类。由于支持向量机（SVM）的重要性和广泛使用，本文考虑防御SVM免受投毒攻击。我们研究了两种常用的防御策略：设计鲁棒SVM算法和数据清洗。尽管此前已提出几种鲁棒SVM算法，但大多数要么缺乏对抗弹性，要么依赖于对数据分布或攻击者行为的强假设。此外，对其复杂性的研究仍然相当有限。据我们所知，我们首次证明了即使是最简单的带离群点的硬间隔单类SVM问题也是NP完全的，并且除非P=NP，否则不存在完全多项式时间近似方案（PTAS）（这意味着很难获得一个近似算法）。对于数据清洗防御，我们将其与数据的内禀维度联系起来；特别地，我们提供了一个倍增度量中的采样定理，用以解释DBSCAN（作为一种基于密度的离群点去除方法）在防御投毒攻击方面的有效性。在我们的实证实验中，我们比较了包括DBSCAN和鲁棒SVM方法在内的几种防御手段，并研究了内禀维度和数据密度对其性能的影响。
引用
@article{arxiv.2006.07757,
title = {Defending SVMs against Poisoning Attacks: the Hardness and DBSCAN Approach},
author = {Hu Ding and Fan Yang and Jiawei Huang},
journal= {arXiv preprint arXiv:2006.07757},
year = {2021}
}