分类器的鲁棒性：从对抗噪声到随机噪声

最近的几项工作表明，最先进的分类器容易受到数据点的最坏情况（即对抗性）扰动的影响。另一方面，经验观察到这些相同的分类器对随机噪声相对鲁棒。在本文中，我们提议研究一种\textit{半随机}噪声机制，该机制概括了随机和最坏情况噪声机制。我们首次提出了在此一般噪声机制下非线性分类器鲁棒性的定量分析。我们为分类器在此一般机制下的鲁棒性建立了精确的理论界限，这些界限取决于分类器决策边界的曲率。我们的界限确认并量化了满足曲率约束的分类器对随机噪声鲁棒的经验观察。此外，我们在半随机噪声机制下根据子空间维数量化了分类器的鲁棒性，并表明我们的界限在最坏情况和随机噪声机制之间显著地内插。我们进行了实验，并表明当应用于各种最先进的深度神经网络和数据集时，推导出的界限提供了非常准确的估计。这一结果提示了分类器决策边界曲率的界限，我们对此进行了实验支持，并且更普遍地为高维分类问题的几何结构提供了重要见解。