从雅可比范数与类间分离理解开集识别
计算机视觉与模式识别
2024-04-09 v2
摘要
关于开集识别（OSR）的研究发现，在分类数据集上训练的模型能够检测训练过程中未遇到的未知类别。具体而言，训练后已知类别的学习表征与未知类别的表征相分离，从而促进了OSR。在本文中，我们通过考察表征的雅可比范数与类间/类内学习动态之间的关系来研究这一涌现现象。我们提供了理论分析，证明类内学习降低了已知类别样本的雅可比范数，而类间学习增加了未知样本的雅可比范数，即使在未直接暴露于任何未知样本的情况下也是如此。总体而言，已知类别与未知类别之间雅可比范数的差异使得OSR成为可能。基于这一凸显类间学习关键作用的见解，我们设计了一种边缘一对多（m-OvR）损失函数，以促进强类间分离。为了进一步提升OSR性能，我们将m-OvR损失与最大化雅可比范数差异的额外策略相结合。我们给出了全面的实验结果，支持了我们的理论观察并证明了所提OSR方法的有效性。
引用
@article{arxiv.2209.11436,
title = {Understanding Open-Set Recognition by Jacobian Norm and Inter-Class Separation},
author = {Jaewoo Park and Hojin Park and Eunju Jeong and Andrew Beng Jin Teoh},
journal= {arXiv preprint arXiv:2209.11436},
year = {2024}
}
备注
Accepted to Pattern Recognition