攻破 BERT：通过对抗攻击理解其在命名实体识别中的脆弱性
计算与语言
2022-02-01 v3 信息检索
摘要
通用和领域特定的 BERT 模型被广泛用于自然语言处理（NLP）任务。本文通过对抗攻击研究 BERT 模型在命名实体识别（NER）任务中面对输入数据变化时的脆弱性。实验结果表明，BERT 模型对实体上下文的变化很敏感，有 20.2% 至 45.0% 的实体被完全预测错误，另有 29.3% 至 53.3% 的实体被部分预测错误。BERT 模型似乎对实体局部上下文的变化最为脆弱，通常仅需一次改动就足以欺骗模型。从零开始训练的领域特定 BERT 模型（SciBERT）比原始 BERT 模型或保留 BERT 词表的领域特定模型（BioBERT）更为脆弱。我们还发现 BERT 模型对涌现实体尤其脆弱。我们的结果描绘了 BERT 模型在 NER 中的脆弱性，并强调了进一步研究以揭示和削弱这些弱点的重要性。
引用
@article{arxiv.2109.11308,
title = {Breaking BERT: Understanding its Vulnerabilities for Named Entity Recognition through Adversarial Attack},
author = {Anne Dirkson and Suzan Verberne and Wessel Kraaij},
journal= {arXiv preprint arXiv:2109.11308},
year = {2022}
}