对抗攻击的博弈论漏洞分析
计算机科学与博弈论
2022-10-14 v1
摘要
近年来，深度学习被广泛用于自动化网络领域中的各种安全任务。然而， adversary 在许多情况下操纵数据，降低了已部署深度学习模型的精度。一个显著例子是欺骗CAPTCHA数据以访问基于CAPTCHA的分类器，导致关键系统易受网络攻击。为缓解此问题，我们提出一个博弈论计算框架，通过构建同时行动的双人博弈来分析基于CAPTCHA的分类器的漏洞、策略和结果。我们对CAPTCHA数据应用快速梯度符号方法（FGSM）和单像素攻击以模拟真实可能的网络攻击场景。随后，为从博弈论视角解释该场景，我们在库恩树中以斯塔克尔伯格博弈表示交互，利用分类器的实际预测值研究参与者的可能行为与动作。由此，我们在博弈论前景下解释深度学习应用中的潜在攻击，同时给出可行的防御策略。
引用
@article{arxiv.2210.06670,
title = {A Game Theoretical vulnerability analysis of Adversarial Attack},
author = {Khondker Fariha Hossain and Alireza Tavakkoli and Shamik Sengupta},
journal= {arXiv preprint arXiv:2210.06670},
year = {2022}
}
备注
Accepted in 17th International Symposium on Visual Computing,2022