面向对抗鲁棒性的显著性多样化深度集成
计算机视觉与模式识别
2021-12-14 v1 人工智能
摘要
深度学习模型在众多图像识别、分类与重建任务上展现出惊人性能。尽管因其预测能力而极具吸引力与价值，一个共同威胁仍难以解决。经过专门训练的攻击者可以引入恶意输入扰动以欺骗网络，从而导致潜在有害的误预测。此外，当 adversary 完全访问目标模型（白盒）甚至此类访问受限（黑盒设定）时，这些攻击均可能成功。模型集成可抵御此类攻击，但可能因成员间共享漏洞（攻击可迁移性）而脆弱。为此，本工作提出一种用于深度集成的新颖多样性促进学习方法。其思想是促进集成成员的显著性图多样性（SMD），通过在学习目标中引入额外项，防止攻击者一次性针对所有集成成员。训练期间，这有助于我们最小化模型显著性间的对齐以降低成员共享漏洞，从而增加集成对 adversary 的鲁棒性。我们通过实验展示了集成成员间降低的可迁移性，以及相比最先进集成防御在中高强度白盒攻击下的性能提升。此外，我们证明我们的方法与现有方法结合，在白盒与黑盒攻击下的防御均优于最先进集成算法。
引用
@article{arxiv.2112.03615,
title = {Saliency Diversified Deep Ensemble for Robustness to Adversaries},
author = {Alex Bogun and Dimche Kostadinov and Damian Borth},
journal= {arXiv preprint arXiv:2112.03615},
year = {2021}
}
备注
Accepted to AAAI Workshop on Adversarial Machine Learning and Beyond 2022