少即是多：基于 n-gram 频率下降理解词级文本对抗攻击
计算与语言
2024-04-16 v4 人工智能
密码学与安全
机器学习
摘要
词级文本对抗攻击在误导自然语言处理（NLP）模型方面展现出显著的有效性。尽管取得了成功，其有效性的潜在原因以及对抗样本的基本特征仍不明确。本研究旨在通过检验词级攻击的 -gram 频率模式来对其进行解释。我们的全面实验表明，在约 90\% 的情况下，词级攻击会导致生成 -gram 频率降低的样本，我们将这一趋势称为 -gram 频率下降（-FD）。这一发现提出了一种增强模型鲁棒性的直接策略：使用具有 -FD 的样本训练模型。为检验该策略的可行性，我们采用 -gram 频率信息替代常规损失梯度，在对抗训练中生成扰动样本。实验结果表明，在提升模型鲁棒性方面，基于频率的方法与基于梯度的方法表现相当。我们的研究为理解词级文本对抗攻击提供了一个新颖且更直观的视角，并为提升模型鲁棒性提出了新方向。
引用
@article{arxiv.2302.02568,
title = {Less is More: Understanding Word-level Textual Adversarial Attack via n-gram Frequency Descend},
author = {Ning Lu and Shengcai Liu and Zhirui Zhang and Qi Wang and Haifeng Liu and Ke Tang},
journal= {arXiv preprint arXiv:2302.02568},
year = {2024}
}
备注
To be published in: 2024 IEEE Conference on Artificial Intelligence (CAI 2024)