利用斯塔克尔伯格博弈实现对抗深度学习的最优对抗精度
机器学习
2022-07-19 v1 人工智能
计算机科学与博弈论
摘要
对抗深度学习旨在训练鲁棒的深度神经网络（DNN）以抵御对抗攻击，是深度学习的主要研究焦点之一。博弈论已被用于回答对抗深度学习的一些基本问题，例如具有最优鲁棒性的分类器是否存在，以及对于给定的分类器类是否存在最优对抗样本。在以往大多数工作中，对抗深度学习被建模为同时博弈，并假设策略空间为某种概率分布，以使纳什均衡存在。但该假设不适用于实际情况。本文中，我们通过将对抗深度学习建模为序贯博弈，针对分类器为给定结构的DNN这一实际情况给出了这些基本问题的答案。证明了这些博弈的斯塔克尔伯格均衡的存在性。此外，当使用Carlini-Wagner边际损失时，表明均衡DNN在具有相同结构的所有DNN中具有最大的对抗精度。也从博弈论角度研究了对抗深度学习中鲁棒性与精度之间的权衡。
引用
@article{arxiv.2207.08137,
title = {Achieve Optimal Adversarial Accuracy for Adversarial Deep Learning using Stackelberg Game},
author = {Xiao-Shan Gao and Shuang Liu and Lijia Yu},
journal= {arXiv preprint arXiv:2207.08137},
year = {2022}
}