深度RBF网络重探：带拒绝选项的鲁棒分类
机器学习
2018-12-11 v1 机器学习
摘要
深度神经网络与许多其他分类器的主要缺陷之一是其对对抗攻击的脆弱性。其脆弱的一个重要原因是将高置信度赋予仅有极少甚至没有特征点的区域。所谓特征点，我们指的是提取输入数据有意义表示的对输入空间的非线性变换。另一方面，深度RBF网络仅对含有足够特征点的区域赋予高置信度，但它们因被广泛认为存在梯度消失问题而受冷落。本文通过首先给出深度RBF网络的通用表述，进而提出受度量学习启发的 thereof 一类代价函数，重新审视深度RBF网络。在所提深度RBF学习算法中，梯度消失问题不会发生。我们通过在其输出层加入拒绝选项使这些网络对对抗攻击鲁棒。通过在MNIST数据集上的若干实验，我们证明所提方法不仅取得显著分类精度，且对各种对抗攻击极具抗性。
引用
@article{arxiv.1812.03190,
title = {Deep-RBF Networks Revisited: Robust Classification with Rejection},
author = {Pourya Habib Zadeh and Reshad Hosseini and Suvrit Sra},
journal= {arXiv preprint arXiv:1812.03190},
year = {2018}
}