FastWordBug：一种针对 NLP 应用生成对抗文本的快捷方法
计算与语言
2020-02-04 v1 密码学与安全
摘要
在本文中，我们提出一种新颖的算法 FastWordBug，用于在黑盒设定下高效生成微小的文本扰动，从而迫使情感分析或文本分类模型做出错误预测。通过结合词的词性属性，我们提出了一种评分方法，能够快速识别影响文本分类的重要词。我们在三个真实世界文本数据集和两种最先进的机器学习模型上，于黑盒设定下对 FastWordBug 进行了评估。结果表明，我们的方法能显著降低模型准确率，同时尽可能少地调用模型，具有最高的攻击效率。我们还攻击了两个流行的真实世界 NLP 云服务，结果表明我们的方法同样有效。
引用
@article{arxiv.2002.00760,
title = {FastWordBug: A Fast Method To Generate Adversarial Text Against NLP Applications},
author = {Dou Goodman and Lv Zhonghou and Wang minghua},
journal= {arXiv preprint arXiv:2002.00760},
year = {2020}
}