基于蜕变关系的可微分神经计算机对抗攻击
机器学习
2018-09-10 v1 密码学与安全
神经与进化计算
摘要
深度神经网络（DNN）虽已成为诸多新技术驱动力并在许多前沿应用中取得巨大成功，但仍易受对抗攻击。可微分神经计算机（DNC）是一种新型计算机器，以 DNN 为中心控制器，操作外部记忆模块进行数据处理。DNC 的独特架构使其在需要表示变量与数据结构以及长时间存储数据的任务中达到最先进的性能。然而，关于对抗样本如何在鲁棒性方面影响 DNC 仍缺乏全面研究。本文针对自然语言处理领域描述的一系列任务，提出基于蜕变关系的对抗技术。我们表明，DNC 在 bAbI 逻辑推理问答任务中近乎完美的性能可被对抗注入的句子所削弱。我们进一步深入研究了 DNC 记忆大小在其鲁棒性中的作用，并分析了导致 DNC 失败的潜在原因。我们的研究展示了构建更鲁棒 DNC 的当前挑战与潜在机遇。
引用
@article{arxiv.1809.02444,
title = {Metamorphic Relation Based Adversarial Attacks on Differentiable Neural Computer},
author = {Alvin Chan and Lei Ma and Felix Juefei-Xu and Xiaofei Xie and Yang Liu and Yew Soon Ong},
journal= {arXiv preprint arXiv:1809.02444},
year = {2018}
}