探索开放集识别中的多样化表征
计算机视觉与模式识别
2024-01-15 v1
摘要
开放集识别（OSR）要求模型在测试时对属于闭集的样本进行分类，同时拒绝未知样本。目前，生成式模型在OSR中通常优于判别式模型，但近期研究表明，生成式模型在复杂任务上可能计算不可行或不稳定。本文深入剖析OSR，发现学习补充性表征理论上可降低开放空间风险。基于该分析，我们提出一种新模型，即多专家多样化注意力融合（Multi-Expert Diverse Attention Fusion, MEDAF），以判别方式学习多样化表征。MEDAF由多个专家组成，通过注意力多样性正则化项进行学习，确保注意力图互不相同。各专家学得的logit经自适应融合，并通过评分函数用于识别未知样本。我们证明，注意力图的差异可导向多样化表征，从而使融合后的表征能有效应对开放空间。在标准及大规模OSR基准上进行了广泛实验。结果表明，所提出的判别式方法在AUROC上最高可超越现有生成式模型9.5%，以极小的计算代价实现了新的最先进性能。我们的方法还能无缝集成现有分类模型。代码见 https://github.com/Vanixxz/MEDAF。
引用
@article{arxiv.2401.06521,
title = {Exploring Diverse Representations for Open Set Recognition},
author = {Yu Wang and Junxian Mu and Pengfei Zhu and Qinghua Hu},
journal= {arXiv preprint arXiv:2401.06521},
year = {2024}
}
备注
9 pages, 4 figures. Accepted to AAAI 2024