NMT-Obfuscator Attack：在翻译中仅用一个词忽略某一句
计算与语言
2024-11-20 v1
摘要
神经机器翻译（NMT）系统因其出色的性能而被广泛应用于各种应用中。然而，近期研究表明，这些系统对精心构造的微小输入扰动（即对抗攻击）十分脆弱。在本文中，我们提出了一种针对 NMT 模型的新型对抗攻击。在此攻击中，我们在两个句子之间添加一个词，使得 NMT 模型忽略第二句且不对其进行翻译。添加在两句话之间的词使得整个对抗文本在源语言中保持自然。这种攻击在实际场景中可能具有危害性，因为攻击者可以在目标 NMT 模型生成的自动翻译中隐藏恶意信息。我们的实验表明，不同的 NMT 模型和翻译任务均易受此类攻击影响。在所有情况中，超过 50% 的情况下我们的攻击能成功迫使 NMT 模型在翻译中忽略输入的后半部分，同时能够保持整个输入的低困惑度。
引用
@article{arxiv.2411.12473,
title = {NMT-Obfuscator Attack: Ignore a sentence in translation with only one word},
author = {Sahar Sadrizadeh and César Descalzo and Ljiljana Dolamic and Pascal Frossard},
journal= {arXiv preprint arXiv:2411.12473},
year = {2024}
}