Adversarial-Playground：对抗样本生成的可视化套件

随着对对抗性机器学习的兴趣日益增长，机器学习从业者和用户理解其模型如何可能被攻击变得非常重要。我们提出一个基于网络的可视化工具Adversarial-Playground，用于展示常见对抗方法针对基于TensorFlow库构建的深度神经网络（DNN）模型的有效性。Adversarial-Playground为用户提供了一种高效且有效的体验，以探索生成对抗样本的技术，这些样本是由对手精心构造的、用于欺骗机器学习系统的输入。为使Adversarial-Playground能够为用户生成快速且准确的响应，我们采用了两种主要策略：(1) 我们提出了最先进的Jacobian显著图方法的一种更快变体，该变体保持了相当的逃逸率。(2) 我们的可视化不将生成的对抗图像传输到客户端，而仅传输描述样本的矩阵和表示分类似然度的向量。源代码及我们所有实验的数据可在\url{https://github.com/QData/AdversarialDNN-Playground}获取。