多任务学习中利用对抗样本同时攻击所有任务
机器学习
2025-12-09 v4
摘要
视觉内容理解常依赖多任务模型，从单一视觉输入中提取鲁棒表征以服务于多个下游任务。然而，与已被广泛研究的单任务模型相比，多任务模型的对抗鲁棒性受到的关注明显较少，许多问题仍不清楚：1）多任务模型对单任务对抗攻击的鲁棒性如何；2）能否设计对抗攻击以同时攻击多任务模型中的所有任务；3）跨任务的参数共享如何影响多任务模型对对抗攻击的鲁棒性？本文旨在通过细致分析与严谨实验回答这些问题。首先，我们分析两种常用单任务白盒攻击改编方法在攻击多任务模型时的固有缺陷。随后，我们提出一种新颖的攻击框架——动态梯度平衡攻击（DGBA）。我们的框架将攻击多任务模型所有任务的问题表述为一个可通过整数线性规划高效求解的优化问题。在 NYUv2 和 Tiny-Taxonomy 两个流行 MTL 基准上的大量评估表明，相较于基线，DGBA 在攻击干净及对抗训练的多任务模型方面均有效。我们的结果还揭示了通过跨任务参数共享提升任务精度与因参数共享导致攻击可迁移性增强而削弱模型鲁棒性之间的基本权衡。
引用
@article{arxiv.2305.12066,
title = {Attacking All Tasks at Once Using Adversarial Examples in Multi-Task Learning},
author = {Lijun Zhang and Xiao Liu and Kaleel Mahmood and Caiwen Ding and Hui Guan},
journal= {arXiv preprint arXiv:2305.12066},
year = {2025}
}
备注
Accpeted by Neurocomputing at 10 September 2025