PPD：深度学习中抵御对抗样本的置换相位防御
机器学习
2020-01-07 v2 密码学与安全
机器学习
摘要
深度神经网络已在包括分类在内的多种任务上展现出顶尖性能。然而，众所周知，对抗性设计的、难以察觉的输入扰动可以误导先进的分类器。本文提出置换相位防御（PPD）作为一种抵御对抗攻击的新方法。PPD 将图像的随机置换与其傅里叶变换的相位分量相结合。该方法背后的基本思想是将对抗防御问题类比地转化为对称密码学，其安全性仅依赖于密钥的保密。在 PPD 中，所选置换的保密确保了抵御对抗攻击的有效性。在 MNIST 和 CIFAR-10 数据集上测试 PPD，针对当前最强大的可用对抗攻击取得了最先进的鲁棒性。
引用
@article{arxiv.1812.10049,
title = {PPD: Permutation Phase Defense Against Adversarial Examples in Deep Learning},
author = {Mehdi Jafarnia-Jahromi and Tasmin Chowdhury and Hsin-Tai Wu and Sayandev Mukherjee},
journal= {arXiv preprint arXiv:1812.10049},
year = {2020}
}
备注
Code is added. Small revisions made