利用元学习提升黑盒对抗攻击
机器学习
2022-03-29 v1 密码学与安全
计算机视觉与模式识别
摘要
深度神经网络（DNNs）在多个领域取得了显著成功。然而，已有研究表明 DNNs 即使在黑盒设置下也极易受到对抗样本的攻击。文献中已提出大量黑盒攻击方法。然而，这些方法通常成功率低且查询次数多，无法完全满足实际用途。在本文中，我们提出一种混合攻击方法，在替代模型上训练元对抗扰动（MAPs），并通过估计模型梯度执行黑盒攻击。我们的方法以元对抗扰动作为初始化，随后训练任意黑盒攻击方法若干轮。此外，MAPs 具有良好的可迁移性与通用性，即它们可用于提升其他黑盒对抗攻击方法的性能。大量实验表明，与其他方法相比，我们的方法不仅能提高攻击成功率，还能减少查询次数。
引用
@article{arxiv.2203.14607,
title = {Boosting Black-Box Adversarial Attacks with Meta Learning},
author = {Junjie Fu and Jian Sun and Gang Wang},
journal= {arXiv preprint arXiv:2203.14607},
year = {2022}
}