面向词级对抗文本攻击的高效组合优化
计算与语言
2021-11-23 v3 神经与进化计算
摘要
过去几年中，人们提出了多种词级文本攻击方法，以揭示自然语言处理中深度神经网络的脆弱性。通常，这些方法涉及一个重要的优化步骤，以确定对原始输入中每个词使用何种替换词。然而，无论是从问题理解还是问题求解的角度，当前关于这一步骤的研究仍相当有限。在本文中，我们通过揭示该问题的理论性质并提出一种高效的局部搜索算法（LS）来求解该问题，从而解决这些不足。我们建立了在一般情况下求解该问题的首个可证明近似保证。涉及 5 个 NLP 任务、8 个数据集和 26 个 NLP 模型的广泛实验表明，LS 通常可将查询次数减少一个数量级，从而实现高攻击成功率。进一步的实验表明，由 LS 生成的对抗样本通常具有更高质量、更好的可迁移性，并可通过对抗训练为受害模型带来更大的鲁棒性提升。
引用
@article{arxiv.2109.02229,
title = {Efficient Combinatorial Optimization for Word-level Adversarial Textual Attack},
author = {Shengcai Liu and Ning Lu and Cheng Chen and Ke Tang},
journal= {arXiv preprint arXiv:2109.02229},
year = {2021}
}