一种基于概率差引导集束搜索的上下文感知文本对抗攻击方法
计算与语言
2022-08-18 v1
摘要
文本对抗攻击揭示了文本分类器的脆弱性，并可用于提升其鲁棒性。现有的上下文感知方法仅考虑金标签概率，并在搜索攻击路径时使用贪心搜索，往往限制了攻击效率。为解决这些问题，我们提出了 PDBS，一种使用概率差引导集束搜索（Probability Difference guided Beam Search）的上下文感知文本对抗攻击模型。概率差是对所有类别标签概率的整体考量，PDBS 利用它来引导攻击路径的选择。此外，PDBS 使用集束搜索来寻找成功的攻击路径，从而避免了搜索空间受限的问题。大量实验和人工评估表明，PDBS 在一系列评估指标上优于以往最佳模型，尤其是将攻击成功率最高提升了 +19.5%。消融研究和定性分析进一步证实了 PDBS 的有效性。
引用
@article{arxiv.2208.08029,
title = {A Context-Aware Approach for Textual Adversarial Attack through Probability Difference Guided Beam Search},
author = {Huijun Liu and Jie Yu and Shasha Li and Jun Ma and Bin Ji},
journal= {arXiv preprint arXiv:2208.08029},
year = {2022}
}