跨任务攻击：基于注意力偏移的自监督生成框架
计算机视觉与模式识别
2024-07-19 v1 人工智能
摘要
研究针对人工智能（AI）系统的对抗攻击有助于发现模型短板，从而构建更健壮的系统。大多数现有对抗攻击方法仅集中于单任务单模型或单任务跨模型场景，忽略了人工智能系统的多任务特性。结果是，大多数现有攻击对综合性和协作性 AI 系统并不构成实际威胁。然而，由于获取不同任务对同一图像真实标签且跨任务损失函数难以调和，实施跨任务攻击极具挑战性。为此，我们提出一种自监督的跨任务攻击框架（Cross-Task Attack, CTA），利用共注意力图（co-attention map）和反注意力图（anti-attention map）生成跨任务对抗扰动。具体而言，共注意力图反映不同视觉任务模型所关注的区域，而反注意力图反映不同视觉任务模型忽略的区域。CTA 通过将样本的注意力区域从共注意力图偏移并靠近反注意力图来生成跨任务扰动。我们在多个视觉任务上进行了广泛实验，实验结果确认了所提出设计在对抗攻击方面的有效性。
引用
@article{arxiv.2407.13700,
title = {Cross-Task Attack: A Self-Supervision Generative Framework Based on Attention Shift},
author = {Qingyuan Zeng and Yunpeng Gong and Min Jiang},
journal= {arXiv preprint arXiv:2407.13700},
year = {2024}
}
备注
Has been accepted by IJCNN2024