何时应当防御你的分类器——针对对抗样本防御措施的一个博弈论分析
机器学习
2021-09-28 v2 计算机科学与博弈论
摘要
对抗机器学习,即提升机器学习算法对所谓对抗样本的鲁棒性,现已是一个成熟的领域。然而,新提出的方法在 unrealistic 场景下被评估与比较,这些场景未考虑攻击者与防御者的成本,且要么所有样本要么无样本被对抗扰动。我们审视这些假设并提出高级对抗分类博弈,其纳入了攻击者与防御者的所有相关参数。特别地,我们考量双方的经济因素,以及迄今为止所有针对对抗样本提出的防御措施都会降低在良性样本上准确率的事实。详细分析双方均有两个纯策略的场景,我们识别所有最优响应并得出结论:在实际设定中,最具影响力的因素可能是对抗样本的最大数量。
引用
@article{arxiv.2108.07602,
title = {When Should You Defend Your Classifier -- A Game-theoretical Analysis of Countermeasures against Adversarial Examples},
author = {Maximilian Samsinger and Florian Merkle and Pascal Schöttle and Tomas Pevny},
journal= {arXiv preprint arXiv:2108.07602},
year = {2021}
}