翻译你的胡言乱语：面向机器翻译系统的黑盒对抗攻击
计算与语言
2023-05-25 v2 人工智能
摘要
神经网络在自然语言处理任务中已被广泛部署于工业规模，或许最常见的用途是作为自动机器翻译系统的组成部分。本工作中，我们提出一种简单方法来愚弄最先进的机器翻译工具，在俄译英及英译俄任务上均奏效。利用一种新颖的无梯度黑盒张量优化器，我们表明许多在线翻译工具，如Google、DeepL和Yandex，既可能对无意义的对抗输入查询产生错误或冒犯性翻译，也可能拒绝翻译看似良性的输入短语。该漏洞可能干扰对新语言的理解，并单纯恶化用户使用机器翻译系统的体验，因此需要对这些工具进行额外改进以实现更好的翻译。
引用
@article{arxiv.2303.10974,
title = {Translate your gibberish: black-box adversarial attack on machine translation systems},
author = {Andrei Chertkov and Olga Tsymboi and Mikhail Pautov and Ivan Oseledets},
journal= {arXiv preprint arXiv:2303.10974},
year = {2023}
}