防御分布式分类器免受数据投毒攻击
机器学习
2020-08-24 v1 机器学习
摘要
支持向量机(SVM)易受针对性的训练数据操纵，如投毒攻击与标签翻转。通过精心操纵一部分训练样本，攻击者迫使学习器计算出错误的决策边界，从而导致误分类。考虑到SVM在工程与生命关键应用中日益增强的重要性，我们开发了一种新的防御算法，提升对此类攻击的抵抗能力。局部本征维数(LID)是一种刻画数据样本离群性的有前景的度量。在本工作中，我们引入一种称为K-LID的LID新近似，其在LID计算中使用核距离，从而允许在高维变换空间中计算LID。我们引入了一种基于K-LID作为区分特征的加权SVM来对抗此类攻击，该特征削弱了可疑数据样本对SVM决策边界的影响。每个样本的权重取决于其K-LID值来自良性K-LID分布而非受攻击K-LID分布的可能性。随后我们通过基于SDR的监视系统案例研究，展示了所提防御如何应用于分布式SVM框架。在基准数据集上的实验表明，所提防御大幅降低了分类错误率(平均10%)。
引用
@article{arxiv.2008.09284,
title = {Defending Distributed Classifiers Against Data Poisoning Attacks},
author = {Sandamal Weerasinghe and Tansu Alpcan and Sarah M. Erfani and Christopher Leckie},
journal= {arXiv preprint arXiv:2008.09284},
year = {2020}
}
备注
14 pages