针对具有分类特征的岭回归模型生成投毒攻击
机器学习
2025-01-14 v1 最优化与控制
摘要
机器学习模型已成为从大型数据集中提取信息并用于准确预测和自动决策的强大工具。然而，ML模型可能容易受到外部攻击，导致性能下降或偏离预期任务。攻击ML模型的一种方式是在训练阶段注入恶意数据以误导算法，这被称为投毒攻击。我们可以通过设计预期攻击来为此类情况做准备，这些攻击随后用于创建和测试防御策略。在本文中，我们提出了一种算法，用于生成针对包含数值和分类特征的岭回归模型的强投毒攻击，该算法显式地对分类特征进行建模和投毒。我们将分类特征建模为SOS-1集，并将设计投毒攻击的问题表述为一个双层优化问题，该问题在上层是非凸混合整数，在下层是无约束凸二次型。我们给出了问题的数学表述，基于下层的Karush-Kuhn-Tucker (KKT)条件引入了单层重构，找到了下层变量的界以加速求解器性能，并提出了一种新的算法来投毒分类特征。数值实验表明，与文献中的先前基准相比，我们的方法改进了所有数据集的均方误差。
引用
@article{arxiv.2501.07275,
title = {Generating Poisoning Attacks against Ridge Regression Models with Categorical Features},
author = {Monse Guedes-Ayala and Lars Schewe and Zeynep Suvak and Miguel Anjos},
journal= {arXiv preprint arXiv:2501.07275},
year = {2025}
}