通过领域无关防御探索并改进多任务深度神经网络的鲁棒性
计算与语言
2020-01-16 v1
摘要
在本文中，我们探索了多任务深度神经网络（MT-DNN）在自然语言理解（NLU）任务中针对非定向对抗攻击的鲁棒性，以及一些可能的防御方法。Liu 等人已表明，多任务深度神经网络由于训练时跨任务数据产生的正则化效应，比仅在单一任务上训练的普通 BERT 模型更鲁棒（1.1%–1.5% 的绝对差异）。我们进一步表明，尽管 MT-DNN 泛化更好，使其易于跨领域和任务迁移，但它仍可能被攻破：在仅 2 次攻击（1-字符和 2-字符）后，SNLI 和 SciTail 任务的准确率分别下降 42.05% 和 32.24%。最后，我们提出了一种领域无关防御，其恢复了模型的准确率（分别为 36.75% 和 25.94%），而非通用防御或现成拼写检查器。
引用
@article{arxiv.2001.05286,
title = {Exploring and Improving Robustness of Multi Task Deep Neural Networks via Domain Agnostic Defenses},
author = {Kashyap Coimbatore Murali},
journal= {arXiv preprint arXiv:2001.05286},
year = {2020}
}
备注
10 pages, 3 figures, 3 tables, 24 citations, 11 equations