面向神经机器翻译的视觉融合攻击：提升对抗文本的攻击能力与隐蔽性
计算与语言
2024-09-10 v1
摘要
尽管神经机器翻译(NMT)模型在我们日常生活中取得了成功，但它们对对抗攻击表现出脆弱性。尽管这些攻击在有害，却也为解释和增强NMT模型提供了益处，因而引起了日益关注的研究注意力。然而，现有的对抗攻击研究在攻击能力和人类感知隐蔽性方面不足，仅关注语言范围。本文提出了一种新颖的视觉融合攻击(VFA)框架，以获取更具攻击能力和隐蔽性的对抗文本。关于攻击能力，我们设计了视觉融合解空间增强策略，以扩大受限的语义解空间，从而 enables us 搜索具有更高攻击能力的对抗候选文本。对于人类感知隐蔽性，我们提出了感知保留对抗文本选择策略，以 align 人类文本阅读机制。因此，最终选择的对抗文本将更具欺骗性。在各种模型上进行的大量实验，包括大型语言模型(LLM)如 LLaMA 和 GPT-3.5，强有力地支持 VFA 在 ASR/SSIM 上显著优于对比方法（提升最高可达 81%/14%）。
引用
@article{arxiv.2409.05021,
title = {Vision-fused Attack: Advancing Aggressive and Stealthy Adversarial Text against Neural Machine Translation},
author = {Yanni Xue and Haojie Hao and Jiakai Wang and Qiang Sheng and Renshuai Tao and Yu Liang and Pu Feng and Xianglong Liu},
journal= {arXiv preprint arXiv:2409.05021},
year = {2024}
}
备注
IJCAI 2024