模型无关的小样本开放集识别
机器学习
2022-06-22 v1
摘要
我们解决小样本开放集识别（FSOSR）问题，即在一组仅有少量标注样本的类别中对实例进行分类，同时检测不属于任何已知类别的实例。与现有文献不同，我们专注于开发模型无关的推理方法，这些方法可以嵌入任何现有模型，无论其架构或训练过程如何。通过评估多种模型嵌入的质量，我们量化了模型无关FSOSR的内在难度。此外，公平的实证评估表明，在FSOSR的归纳设置中，kNN检测器与原型分类器的简单组合优于专门或复杂的方法。这些观察促使我们转向转导推理，作为标准小样本学习问题的一种流行且实用的松弛。我们引入了开放集转导信息最大化方法OSTIM，该方法在最大化提取特征与分配之间互信息的同时，虚构一个离群点原型。通过在5个数据集上的广泛实验，我们表明OSTIM在检测开放集实例方面超越了归纳和现有的转导方法，同时在分类闭集实例方面与最强的转导方法相竞争。我们进一步表明，OSTIM的模型无关性使其能够成功利用最新架构和训练策略的强大表达能力，而无需任何超参数修改，这是一个有希望的迹象，表明未来的架构进步将继续对OSTIM的性能产生积极影响。
引用
@article{arxiv.2206.09236,
title = {Model-Agnostic Few-Shot Open-Set Recognition},
author = {Malik Boudiaf and Etienne Bennequin and Myriam Tami and Celine Hudelot and Antoine Toubhans and Pablo Piantanida and Ismail Ben Ayed},
journal= {arXiv preprint arXiv:2206.09236},
year = {2022}
}
备注
Under review. Code available at https://github.com/ebennequin/few-shot-open-set