数据投毒下的超参数学习：基于多目标双层优化的正则化影响分析
机器学习
2023-06-27 v2 密码学与安全
机器学习
摘要
机器学习（ML）算法易受投毒攻击，即部分训练数据被操纵以蓄意降低算法性能。最优攻击可表述为双层优化问题，并有助于在最坏情形下评估其鲁棒性。我们指出，当前通常假设超参数保持不变的方法，导致对算法鲁棒性及正则化影响的过度悲观看法。我们提出了一种考虑攻击对超参数影响的新颖最优攻击表述，并将攻击建模为多目标双层优化问题。这允许表述最优攻击、学习超参数并在最坏条件下评估鲁棒性。我们将该攻击表述应用于使用与正则化的若干ML分类器。我们在多个数据集上的评估证实了先前策略的局限，并证明了使用与正则化来削弱投毒攻击影响的好处。
引用
@article{arxiv.2306.01613,
title = {Hyperparameter Learning under Data Poisoning: Analysis of the Influence of Regularization via Multiobjective Bilevel Optimization},
author = {Javier Carnerero-Cano and Luis Muñoz-González and Phillippa Spencer and Emil C. Lupu},
journal= {arXiv preprint arXiv:2306.01613},
year = {2023}
}
备注
Accepted to IEEE Transactions on Neural Networks and Learning Systems. arXiv admin note: text overlap with arXiv:2003.00040