监督对比原型学习：无增强的鲁棒神经网络

深度神经网络（DNN）输入空间中的变换会导致特征空间中非预期的改变。几乎感知上相同的输入（如对抗样本）可能具有显著疏远的特征表示。相反，分布外（OOD）样本可能与训练集样本具有高度相似的特征表示。我们对使用分类头训练的DNN的理论分析表明，受分类问题规模限制的僵化logit空间是缺乏$\textit{鲁棒性}$的根本原因之一。我们的第二个观察是，DNN会过拟合训练增强技术，而无法学习$\textit{细微不变}$表示。受近期原型与对比学习框架在提升鲁棒性和学习细微不变表示方面成功的启发，我们提出一种训练框架，$\textbf{监督对比原型学习}$（SCPL）。我们使用同类和异类原型的N-pair对比损失，并以$\textbf{原型分类头}$（PCH）替代分类头。我们的方法$\textit{样本高效}$，不需要$\textit{样本挖掘}$，可在任何现有DNN上实现且无需修改其架构，并可与其它训练增强技术结合。我们从经验上评估了我们的方法在分布外与对抗样本上的$\textbf{干净}$鲁棒性。我们的框架在$\textit{鲁棒性}$上优于其它最先进的对比与原型学习方法。