多语言 BERT 模型是否鲁棒？多语言问答对抗攻击案例研究
计算与语言
2021-04-16 v1
摘要
近期的方法通过在段落中添加对抗性陈述，利用了单语问答（QA）模型的弱点。这些攻击使最先进（SOTA）性能降低了近 50%。在本文中，我们首次探索并成功攻击了一个在多语言 BERT 上预训练的多语言 QA（MLQA）系统，使用了多种针对对抗性陈述的攻击策略，使性能降低多达 85%。我们表明，无论 QA 对中的其他语言如何，该模型都优先处理英语和问题的语言。此外，我们还表明在训练期间加入我们的攻击策略有助于缓解这些攻击。
引用
@article{arxiv.2104.07646,
title = {Are Multilingual BERT models robust? A Case Study on Adversarial Attacks for Multilingual Question Answering},
author = {Sara Rosenthal and Mihaela Bornea and Avirup Sil},
journal= {arXiv preprint arXiv:2104.07646},
year = {2021}
}