通过实体边界干扰攻击命名实体识别
计算与语言
2023-05-10 v1
摘要
命名实体识别（NER）是一项基础性的 NLP 任务，但其鲁棒性却很少受到关注。本文重新思考了源自句子分类的 NER 攻击原则，因为它们容易破坏原始与对抗性 NER 样例之间的标签一致性。这是由于 NER 的细粒度特性，因为即使句子中微小的词语改动也会导致任意实体的出现或变异，从而产生无效的对抗样例。为此，我们基于一个关键洞察提出了一种新颖的单词修改 NER 攻击：NER 模型在决策时总是易受实体边界位置的影响。因此我们策略性地在句中插入一个新的边界，并触发实体边界干扰，使得受害模型在该边界词或句中其他词上做出错误预测。我们将此攻击称为虚拟边界攻击（ViBA），结果表明其在攻击英语和中文模型时极为有效，在最先进的语言模型（如 RoBERTa、DeBERTa）上达到 70%–90% 的攻击成功率，并且显著快于先前的方法。
引用
@article{arxiv.2305.05253,
title = {Attack Named Entity Recognition by Entity Boundary Interference},
author = {Yifei Yang and Hongqiu Wu and Hai Zhao},
journal= {arXiv preprint arXiv:2305.05253},
year = {2023}
}