XploreNAS：面向非理想交叉阵列的对抗鲁棒且硬件高效的神经架构探索
机器学习
2023-04-18 v2 新兴技术
摘要
存算一体平台（如忆阻交叉阵列）正受到关注，因为它们能以高面积与计算效率加速深度神经网络（DNNs）。然而，交叉阵列中模拟计算本质所固有的非理想特性限制了所部署 DNN 的性能。此外，DNN 已被证明易受对抗攻击，这在其大规模部署中带来严重安全威胁。因此，为非理想交叉阵列寻找对抗鲁棒的 DNN 架构对于 DNN 在边缘端安全可靠的部署至关重要。本工作提出一种称为 XploreNAS 的两阶段算法-硬件协同优化方法，用于为非理想交叉阵列平台搜索硬件高效且对抗鲁棒的神经架构。我们采用一次性神经架构搜索（NAS）方法训练一个具有交叉阵列感知的大型超网（Supernet），并从中采样对抗鲁棒的子类网（Subnets），同时保持有竞争力的硬件效率。我们在交叉阵列上使用基准数据集（SVHN、CIFAR10 与 CIFAR100）的实验表明，相较于经过交叉阵列感知对抗训练的基线 ResNet-18 模型，所搜索子类网的对抗鲁棒性提升约 8-16%。我们使用 Neurosim 工具对鲁棒子类网的能耗-延迟-面积积（EDAPs）进行基准测试，发现通过额外的硬件效率驱动优化，子类网相较 ResNet-18 基线实现了约 1.5-1.6 倍的更低 EDAPs。
引用
@article{arxiv.2302.07769,
title = {XploreNAS: Explore Adversarially Robust & Hardware-efficient Neural Architectures for Non-ideal Xbars},
author = {Abhiroop Bhattacharjee and Abhishek Moitra and Priyadarshini Panda},
journal= {arXiv preprint arXiv:2302.07769},
year = {2023}
}
备注
Accepted to ACM Transactions on Embedded Computing Systems in April 2023