DetectX——基于忆阻交叉阵列中电流签名的对抗样本检测
密码学与安全
2021-10-11 v1 新兴技术
摘要
对抗样本检测已成为强化深度神经网络（DNNs）以抵御对抗攻击的重要技术。多数已有工作使用基于神经网络的检测器或复杂统计分析进行对抗检测。这些方法计算密集且易受对抗攻击。为此，我们提出DetectX——一种利用忆阻交叉阵列（XBar）中列电流和（SoI）等硬件签名、对硬件友好的对抗检测机制。我们表明对抗输入相比干净输入具有更高的SoI。然而，该差异过小，难以可靠检测对抗样本。因此，我们提出两阶段训练方法：阶段1训练旨在增大干净与对抗SoI间的分离度；阶段2训练提升针对不同程度对抗攻击的整体鲁棒性。对于基于硬件的对抗检测，我们使用32nm CMOS电路实现DetectX模块，并将其与类Neurosim的模拟交叉阵列架构集成。我们在Neurosim平台上使用CIFAR10(VGG8)、CIFAR100(VGG16)和TinyImagenet(ResNet18)数据集对Neurosim+DetectX系统进行了硬件评估。实验表明，与先前最先进工作相比，DetectX能效高10至25倍且对动态对抗攻击免疫。此外，我们对强白盒与黑盒攻击实现了高检测性能（ROC-AUC > 0.95）。代码已发布于 https://github.com/Intelligent-Computing-Lab-Yale/DetectX
引用
@article{arxiv.2106.12021,
title = {DetectX -- Adversarial Input Detection using Current Signatures in Memristive XBar Arrays},
author = {Abhishek Moitra and Priyadarshini Panda},
journal= {arXiv preprint arXiv:2106.12021},
year = {2021}
}
备注
14 pages, 13 figures