隐形多任务对抗攻击
密码学与安全
2024-11-28 v1 计算机视觉与模式识别
摘要
深度神经网络对对抗攻击存在内在漏洞，这些攻击可显著损害其输出和可靠性。虽然现有研究主要聚焦于单任务场景或不加区分地针对多任务环境中的所有任务，但本文探讨了在多任务框架内选择性地针对一个任务进行攻击，同时保持其他任务的性能。这种方法源于现实应用中对不同任务安全性优先级的差异，例如在自动驾驶中，对关键物体（如标志、交通灯）的误解释构成更大的安全风险，而对轻微深度误差的误算则相对次要。因此，攻击者可能希望针对安全敏感任务，同时规避非关键任务受到攻击，以在被发现之前窃取关键功能。本文提出了一种 stealthy 多任务攻击框架，利用多种算法向输入注入不可察觉的噪声。该新方法在保持甚至提升非目标任务性能的同时，显著有效地破坏目标任务——这是该领域迄今未见的标准。此外，我们引入了一种自动化方法用于搜索损失函数中的权重因子，进一步提升了攻击效率。实验结果验证了本框架在成功攻击目标任务的同时，能够保持非目标任务性能的能力。自动化损失函数权重搜索方法的效果相当于手动调参，建立了该领域的 state-of-the-art 多任务攻击框架。
引用
@article{arxiv.2411.17936,
title = {Stealthy Multi-Task Adversarial Attacks},
author = {Jiacheng Guo and Tianyun Zhang and Lei Li and Haochen Yang and Hongkai Yu and Minghai Qin},
journal= {arXiv preprint arXiv:2411.17936},
year = {2024}
}