Adv-OLM：基于OLM生成文本对抗样本
计算与语言
2021-01-22 v1 人工智能
机器学习
摘要
深度学习模型易受原始输入中具有难以察觉扰动的对抗样本的攻击，从而导致针对这些模型的对抗攻击。分析这些攻击在最先进NLPTransformer上的表现有助于提升模型对此类对抗输入的鲁棒性。本文提出Adv-OLM，一种黑盒攻击方法，将遮挡与语言模型（OLM）的思想适配于当前最先进的攻击方法。OLM用于对句子中的词进行排序，随后使用词替换策略进行替换。我们通过实验表明，我们的方法在多个文本分类任务上优于其他攻击方法。
引用
@article{arxiv.2101.08523,
title = {Adv-OLM: Generating Textual Adversaries via OLM},
author = {Vijit Malik and Ashwani Bhat and Ashutosh Modi},
journal= {arXiv preprint arXiv:2101.08523},
year = {2021}
}
备注
5 Pages + 1 Page references + 3 Pages Appendix, Accepted at EACL 2021