防御机器学习模型中的 Beta 型投毒攻击
密码学与安全
2025-08-05 v1 人工智能
摘要
投毒攻击通过使机器学习（ML）模型的训练数据集受到恶意操纵，构成了ML安全的重大威胁。Beta 投毒是一种近期提出的投毒攻击，通过使训练数据集线性不可分来破坏模型准确率。本文提出了四种针对 Beta 投毒攻击的防御策略：基于k近邻的防御（KPB）、邻域类比较（NCC）、基于聚类的防御（CBD）和均值距离阈值（MDT）。这些防御方法基于我们对由 Beta 投毒生成的投毒样本特征的观察，例如投毒样本彼此靠近，且位于目标类别均值附近。使用MNIST和CIFAR-10数据集进行实验评估表明，KPB和MDT可实现完美的准确率和F1分数，而CBD和NCC也提供了强大的防御能力。此外，通过分析不同参数下的性能，我们提供了在不同条件下防御行为的实用见解。
引用
@article{arxiv.2508.01276,
title = {Defending Against Beta Poisoning Attacks in Machine Learning Models},
author = {Nilufer Gulciftci and M. Emre Gursoy},
journal= {arXiv preprint arXiv:2508.01276},
year = {2025}
}