面向图像分类的深度神经网络鲁棒明智对抗学习

鲁棒性这一概念对现代统计分析而言处于核心且关键地位。然而，尽管深度神经网络（DNNs）近期取得进展，许多研究已表明DNNs易受对抗攻击。对图像施加难以察觉的改动即可使DNN模型以高置信度做出错误分类，例如将良性痣分类为恶性肿瘤、将停车标志分类为限速标志。鲁棒性与标准准确率之间的权衡对DNN模型而言十分常见。本文中，我们引入明智对抗学习，并论证标准自然准确率追求与鲁棒性追求之间的协同效应。具体而言，我们定义一种明智对手（sensible adversary），其有助于学习鲁棒模型同时保持高自然准确率。我们从理论上确立：在明智对抗学习下，贝叶斯分类器是具0-1损失的最鲁棒多类分类器。我们提出一种新颖且高效的算法，利用隐式损失截断训练鲁棒模型。我们将明智对抗学习应用于大规模图像分类，涉及名为MNIST的手写数字图像数据集与名为CIFAR10的物体识别彩色图像数据集。我们开展了广泛的比较研究，以将我们的方法与其他竞争方法对比。我们的实验经验性地表明，我们的方法对其超参数不敏感，且即便模型容量较小也不会崩溃，同时在促进针对多种攻击的鲁棒性并保持高自然准确率。