SecureLearn——面向多类机器学习的防抗性防御
密码学与安全
2025-10-28 v1 机器学习
摘要
数据投毒攻击是一种潜在的机器学习（ML）模型威胁，旨在通过操纵训练数据集来扰乱其性能。现有的防御方法大多针对特定的投毒攻击或与特定的机器学习算法保持一致。此外，大多数防御方法是为保护深度神经网络或二分类器而开发的。然而，传统的多类分类器需要受到数据投毒攻击的防御，因为这些模型在开发多模态应用程序方面具有重要意义。因此，本文提出了SecureLearn，一种面向多类的攻击无关防御，以抵御投毒攻击。它包含数据清洗和一种新的基于特征的对抗训练两个组件。为确定SecureLearn的有效性，我们提出了一个包含三个正交维度的3D评估矩阵：数据投毒攻击、数据清洗和对抗训练。在3D矩阵中对SecureLearn进行基准测试，对不同投毒水平（10%-20%）进行详细分析，特别分析准确率、召回率、F1分数、检测和纠正率以及假发现率。实验针对四种机器学习算法进行，即随机森林（RF）、决策树（DT）、高斯朴素贝叶斯（GNB）和多层感知器（MLP），使用三个公共数据集，对抗三个投毒攻击，并与两种现有缓解措施进行比较。我们的结果表明，SecureLearn对所提供的攻击有效。SecureLearn加强了传统多类模型和神经网络的韧性和对抗鲁棒性，确认了其超越算法特定防御的泛化能力。在神经网络方面，SecureLearn在所有选定的投毒攻击下实现了97%的召回率和F1分数。
引用
@article{arxiv.2510.22274,
title = {SecureLearn -- An Attack-agnostic Defense for Multiclass Machine Learning Against Data Poisoning Attacks},
author = {Anum Paracha and Junaid Arshad and Mohamed Ben Farah and Khalid Ismail},
journal= {arXiv preprint arXiv:2510.22274},
year = {2025}
}