欺诈议价攻击：通过词操纵过程生成对抗性文本样本
计算与语言
2023-12-29 v2 人工智能
摘要
近期研究揭示自然语言处理（NLP）模型易受对抗样本攻击。然而，当前生成此类样本的技术依赖确定性启发式规则，无法产生最优对抗样本。为此，本研究提出一种称为欺诈议价攻击（FBA）的新方法，其利用随机化机制扩展搜索空间，以更高成功率生成高质量对抗样本。FBA 使用一种称为 Metropolis-Hasting 采样器的马尔可夫链蒙特卡洛采样器，从由定制随机过程（称为词操纵过程（WMP））生成的所有候选中改进对抗样本的选择。WMP 方法通过插入、删除或替换，以上下文感知方式修改单个词。通过大量实验，本研究证明 FBA 在攻击成功率、不可察觉性和句子质量方面优于其他方法。
引用
@article{arxiv.2303.01234,
title = {Frauds Bargain Attack: Generating Adversarial Text Samples via Word Manipulation Process},
author = {Mingze Ni and Zhensu Sun and Wei Liu},
journal= {arXiv preprint arXiv:2303.01234},
year = {2023}
}
备注
21 pages, 9 tables, 3 figures