面向命名实体识别的上下文感知对抗攻击

近年来，大型预训练语言模型(PLMs)在许多自然语言处理基准上取得了卓越性能。尽管取得成功，先前研究表明PLMs易受对抗样本攻击。本文关注命名实体识别任务，研究上下文感知对抗攻击方法以检验模型的鲁棒性。具体而言，我们提出扰动用于识别实体的最具信息量的词来生成对抗样本，并探究不同的候选替换方法以产生自然且合理的对抗样本。实验与分析表明，相较于强基线，我们的方法在欺骗模型做出错误预测方面更为有效。