离群点导向投毒攻击：一种通过扰动多类学习中离群点来干扰决策边界的灰盒方法
机器学习
2024-11-04 v1
摘要
投毒攻击是机器学习模型面临的主要威胁，旨在通过操纵训练数据集来损害其性能和可靠性。本文提出了一种新型攻击——离群点导向投毒（OOP）攻击，该攻击操纵距离决策边界最远的样本的标签。本文还研究了此类攻击在多类分类场景下对不同机器学习算法的不利影响，分析了不同投毒水平与性能退化之间的方差和相关性。为确定 OOP 攻击在不同投毒程度（5%–25%）下的严重性，我们对所选机器学习模型分析了方差、准确率、精确率、召回率、F1 分数和假正率。通过将 OOP 攻击作为基准，我们分析了多类机器学习算法的关键特征及其对投毒攻击的敏感性。我们的实验使用了三个公开数据集：IRIS、MNIST 和 ISIC。我们的分析表明，KNN 和 GNB 受影响最严重，在 IRIS 数据集上 15% 投毒下准确率分别下降 22.81% 和 56.07%，假正率分别上升至 17.14% 和 40.45%。进一步，决策树和随机森林是最具韧性的算法，在 IRIS 数据集 15% 投毒下准确率下降最少，分别为 12.28% 和 17.52%。我们还分析了数据集类别数与模型性能退化之间的相关性。我们的分析表明，类别数与性能退化（特别是模型准确率的下降）成反比，该退化程度随类别数增加而归一化。此外，我们的分析发现，不平衡的数据集分布会加剧投毒攻击对机器学习模型的影响。
引用
@article{arxiv.2411.00519,
title = {Outlier-Oriented Poisoning Attack: A Grey-box Approach to Disturb Decision Boundaries by Perturbing Outliers in Multiclass Learning},
author = {Anum Paracha and Junaid Arshad and Mohamed Ben Farah and Khalid Ismail},
journal= {arXiv preprint arXiv:2411.00519},
year = {2024}
}