面向文本中鲁棒深度神经网络的研究：综述
计算与语言
2021-04-22 v6 密码学与安全
机器学习
摘要
深度神经网络（DNNs）已在各种任务中（例如图像分类、语音识别和自然语言处理（NLP））取得了显著成功。然而，研究人员已证明基于 DNN 的模型易受对抗样本的攻击，对抗样本通过对合法输入添加难以察觉的扰动而导致错误预测。近来，研究揭示了文本领域中的对抗样本，其可有效规避各种基于 DNN 的文本分析器，并进一步带来虚假信息扩散的威胁。在本文中，我们全面综述了现有针对生成英文与中文字符书写的对抗文本的对抗技术及其相应防御方法的研究。更重要的是，我们希望我们的工作能启发未来研究开发更鲁棒的基于 DNN 的文本分析器，以抵御已知和未知的对抗技术。我们基于扰动单元对现有的对抗文本生成技术进行了分类，有助于更好地理解对抗文本的生成并构建鲁棒的防御模型。在呈现文本领域对抗攻击与防御的分类体系时，我们从不同 NLP 任务的角度介绍了这些对抗技术。最后，我们讨论了文本中对抗攻击与防御的现有挑战，并给出了这一新兴且具挑战性领域的未来研究方向。
引用
@article{arxiv.1902.07285,
title = {Towards a Robust Deep Neural Network in Texts: A Survey},
author = {Wenqi Wang and Run Wang and Lina Wang and Zhibo Wang and Aoshuang Ye},
journal= {arXiv preprint arXiv:1902.07285},
year = {2021}
}