对隐藏任务中多任务学习的对抗攻击

深度学习模型容易受到对抗性攻击，轻微的输入数据扰动会导致误分类。随着对目标分类器信息的获取，對抗性攻击变得越来越有效。在多任务学习场景下，单个模型同时学习多个任务时，攻击者可能仅凭有限的信息就利用特定任务的漏洞。本文探讨了在多任务分类器中攻击隐藏任务的可行性，即虽然无法获取关于隐藏目标任务的模型访问权限或该任务的标记数据，但可以获取关于非目标任务的模型访问权限。我们提出了一种新颖的对抗攻击方法，利用非目标任务的知识以及多任务模型的共享背板网络，迫使模型遗忘与目标任务相关的知识。在CelebA和DeepFashion数据集上的实验结果表明，该方法在保持可见任务性能的同时，有效降低了隐藏任务的准确率，深化了对多任务分类器对抗漏洞的理解。