Adv-BERT：BERT 对拼写错误并不鲁棒！在 BERT 上生成自然对抗样本
计算与语言
2020-03-12 v1
摘要
越来越多的文献声称深度神经网络在处理被恶意构造的对抗样本时存在脆弱性。然而，模型在真实场景中表现如何仍不清楚，因为真实场景中往往存在的是自然而非恶意的对抗实例。本工作系统性地探究了 NLP 领域最先进的 Transformer 风格模型 BERT 在处理无意中出现的含噪数据（尤其是键盘输入错误）时的鲁棒性。在情感分析和问答基准上的大量实验表明：(i) 句子中不同词语的拼写错误影响并不均等，信息性词语中的拼写错误造成更严重的损害；(ii) 与插入、删除等操作相比，误输入是最具破坏性的因素；(iii) 人类与机器在识别对抗攻击时关注点不同。
引用
@article{arxiv.2003.04985,
title = {Adv-BERT: BERT is not robust on misspellings! Generating nature adversarial samples on BERT},
author = {Lichao Sun and Kazuma Hashimoto and Wenpeng Yin and Akari Asai and Jia Li and Philip Yu and Caiming Xiong},
journal= {arXiv preprint arXiv:2003.04985},
year = {2020}
}