Ptolemy：面向鲁棒深度学习的体系结构支持
硬件体系结构
2020-08-25 v1 信号处理
摘要
深度学习易受对抗攻击，精心构造的输入扰动可能误导训练良好的深度神经网络产生错误结果。当今针对对抗攻击的应对措施要么无法在推理时检测对抗样本，要么引入过高开销以致在推理时难以实用。我们提出 Ptolemy，一种算法-体系结构协同设计的系统，能以低开销和高精度在推理时检测对抗攻击。我们利用 DNN 推理与命令式程序执行之间的协同性：DNN 的输入会唯一激活一组对推理输出有显著贡献的神经元，类似于常规程序中输入所经历的基本块序列。关键的是，我们观察到对抗样本倾向于激活与良性输入不同的路径。基于这一洞察，我们提出一种对抗样本检测框架，其使用离线剖析生成的金丝雀路径在运行时检测对抗样本。Ptolemy 编译器与协同设计的硬件通过利用独特的算法特征实现高效执行。大量评估表明，Ptolemy 以低得多的运行时开销（低至 2%）实现了不低于当今机制的对抗样本检测精度。
关键词
引用
@article{arxiv.2008.09954,
title = {Ptolemy: Architecture Support for Robust Deep Learning},
author = {Yiming Gan and Yuxian Qiu and Jingwen Leng and Minyi Guo and Yuhao Zhu},
journal= {arXiv preprint arXiv:2008.09954},
year = {2020}
}