基于梯度的对抗攻击溯源用于欺骗的反向工程
密码学与安全
2021-03-23 v1 计算机视觉与模式识别
摘要
机器学习 (ML) 算法在训练和部署过程中都易受对抗攻击和欺骗的影响。对这些对抗机器学习攻击背后工具链的自动反向工程，将有助于恢复攻击中使用的工具和过程。在本文中，我们提出了两种技术，利用共现像素统计和拉普拉斯残差来支持对抗性 ML 攻击工具链的自动识别与溯源。我们的实验表明，所提技术能够识别用于生成对抗样本的参数。据我们所知，这是首个对基于梯度的对抗攻击进行溯源并估计其参数的方法。源代码和数据可在 https://github.com/michael-goebel/ei_red 获取。
引用
@article{arxiv.2103.11002,
title = {Attribution of Gradient Based Adversarial Attacks for Reverse Engineering of Deceptions},
author = {Michael Goebel and Jason Bunk and Srinjoy Chattopadhyay and Lakshmanan Nataraj and Shivkumar Chandrasekaran and B. S. Manjunath},
journal= {arXiv preprint arXiv:2103.11002},
year = {2021}
}