基于保形预测的自监督模型可靠零样本分类研究
机器学习
2022-10-31 v1 计算机视觉与模式识别
摘要
以CLIP为代表、采用对比损失训练的自监督模型已在零样本分类场景中展现出强大能力。然而,将其用作零样本分类器时,要求用户在测试时针对固定标签集提供新的文本描述。在许多情况下,难以甚至无法知晓新的查询描述是否与训练模型所用的源描述兼容。我们通过将零样本分类任务构建为离群点检测问题来应对这些局限,并开发了保形预测流程以评估给定测试描述何时可被可靠使用。在一个真实医疗案例中,我们表明所提出的保形流程提升了CLIP风格模型在零样本分类设定中的可靠性,并给出了可能影响其性能的因素的实证分析。
引用
@article{arxiv.2210.15805,
title = {Towards Reliable Zero Shot Classification in Self-Supervised Models with Conformal Prediction},
author = {Bhawesh Kumar and Anil Palepu and Rudraksh Tuwani and Andrew Beam},
journal= {arXiv preprint arXiv:2210.15805},
year = {2022}
}
备注
10 pages