基于贝叶斯方法的可迁移对抗样本

深度神经网络(DNNs)对黑盒对抗攻击的脆弱性是可信人工智能中最热门的话题之一。在此类攻击中,攻击者在没有任何模型内部知识的情况下进行操作,使得对抗样本的跨模型可迁移性至关重要。尽管对抗样本有可能在各种模型中有效,但已观察到专门为特定模型精心制作的对抗样本往往表现出较差的可迁移性。在本文中,我们通过贝叶斯方法的视角探讨对抗样本的可迁移性。具体而言,我们利用贝叶斯方法来探究可迁移性,进而研究什么构成了促进可迁移性的先验。此后,我们设计了两个具体的促进可迁移性的先验,以及从这些先验中采样实例的自适应动态加权策略。采用这些技术,我们提出了 BayAtk。大量实验表明,与现有的最先进攻击相比,BayAtk 在针对无防御和已防御的黑盒模型生成更具可迁移性的对抗样本方面具有显著有效性。