携手抗御：基于多模态协同的无目标对抗训练防御规避式推广攻击
机器学习
2026-05-08 v1 人工智能
摘要
多模态推荐系统利用视觉与文本信号缓解数据稀疏性，但这同时也使其更易受到规避式推广攻击的威胁。现有防御方法大多局限于单模态设置，且主要关注投毒式威胁，对规避式威胁的研究尚不充分。在本工作中，我们首先识别出在多用户推广设置下存在跨模态梯度错配现象，即由于不同用户群体占据主导地位，视觉与文本扰动被优化至不一致的方向。该现象削弱了攻击有效性，并导致鲁棒训练低估了最坏情况下的风险。为解决此问题，我们提出了基于多模态协同的无目标对抗训练。UAT-MC 将所有物品视为潜在目标，以应对规避式攻击（与投毒式攻击相对）中目标物品未知这一挑战，并引入梯度对齐机制以显式纠正上述错配。该设计确保了跨模态扰动的同步性，从而在鲁棒训练中最大化对抗强度。大量实验表明，UAT-MC 显著提升了对推广攻击的鲁棒性，同时在防御与准确率的权衡下保持了可接受的推荐性能。代码可在 https://github.com/gmXian/UAT-MC 获取。
引用
@article{arxiv.2605.06238,
title = {Band Together: Untargeted Adversarial Training with Multimodal Coordination against Evasion-based Promotion Attacks},
author = {Guanmeng Xian and Ning Yang and Philip S. Yu},
journal= {arXiv preprint arXiv:2605.06238},
year = {2026}
}