迈向开放集深度网络

深度网络在各种视觉识别问题上取得了显著进展，催生了具有高影响力的学术与商业应用。近期关于深度网络的研究指出，很容易生成人类绝不会归类为特定物体类别的图像，但网络却以高置信度将其分类为该给定类别——深度网络极易被人类认为无意义的图像所愚弄。深度网络的闭集性质迫使它们从已知类别中选择一个，从而导致了此类伪影。现实世界中的识别是开放集的，即识别系统应在测试时拒绝未知/未见过的类别。我们提出了一种将深度网络适配于开放集识别的方法，通过引入一个新的模型层 OpenMax，来估计输入来自未知类别的概率。估计未知概率的关键要素是将元识别概念适配到网络倒数第二层的激活模式中。OpenMax 允许拒绝呈现给系统的“愚弄”图像及不相关的开放集图像；OpenMax 极大减少了深度网络产生的明显错误。我们证明 OpenMax 概念提供了有界的开放空间风险，从而在形式上提供了一种开放集识别解决方案。我们使用来自 Caffe Model-zoo 的预训练网络，在 ImageNet 2012 验证数据及数千张愚弄和开放集图像上，对所得的开放集深度网络进行了评估。所提出的 OpenMax 模型在开放集识别准确率上显著优于基础深度网络以及对 SoftMax 概率进行阈值的深度网络。