无权重传输神经网络的对抗鲁棒性
机器学习
2019-10-04 v2 密码学与安全
机器学习
摘要
用反向传播训练的神经网络——使用权重传输的深度学习标准算法——很容易被现有的基于梯度的对抗攻击所欺骗。这类攻击基于对输入的某些微小扰动以使网络对其误分类。我们表明,用反馈对齐训练的不太符合生物学不可能性的深度神经网络(不使用权重传输)可能更难被欺骗,从而提供实际的鲁棒性。在 MNIST 上测试,无权重传输训练的深度神经网络(1)对抗准确率为 98%,而用反向传播训练的神经网络为 0.03%,(2)生成不可迁移的对抗样本。然而,这一差距在 CIFAR-10 上减小,但对于小于 1/2 的小扰动幅度仍然显著。
引用
@article{arxiv.1908.03560,
title = {On the Adversarial Robustness of Neural Networks without Weight Transport},
author = {Mohamed Akrout},
journal= {arXiv preprint arXiv:1908.03560},
year = {2019}
}
备注
Accepted for the workshop on Real Neurons & Hidden Units at NeurIPS 2019