中文

教师-探索者-学生学习:一种用于开集识别的新型学习方法

计算机视觉与模式识别 2021-03-25 v1 人工智能

摘要

若训练期间未见的未知样本出现,大多数识别系统通常产生过度泛化的结果,并判定该样本属于某一已知类。为解决此问题,本研究提出教师-探索者-学生(T/E/S)学习,其采用开集识别(OSR)概念,旨在拒绝未知样本的同时最小化已知样本分类性能的损失。在这一新颖学习方法中,通过探索未知的各种可能性,深度学习分类器的过度泛化被显著减少。此处,教师网络通过蒸馏关于已知类的预训练知识提取关于未知的一些线索,并将该蒸馏知识传递给学生。学生学习蒸馏知识后,与探索者网络共享所学信息。随后,探索者网络通过生成类未知样本并将样本输入学生网络来共享其探索结果。通过重复这一交替学习过程,学生网络经历多种合成未知样本,从而减少过度泛化。我们进行了大量实验,实验结果表明本文提出的各组件均显著有助于 OSR 性能的提升。因此,所提出的 T/E/S 学习方法优于当前最先进的方法。

关键词

引用

@article{arxiv.2103.12871,
  title  = {Teacher-Explorer-Student Learning: A Novel Learning Method for Open Set Recognition},
  author = {Jaeyeon Jang and Chang Ouk Kim},
  journal= {arXiv preprint arXiv:2103.12871},
  year   = {2021}
}

备注

12 pages, 13 figures, 4 tables