面向广义零样本学习的自适应置信度平滑
摘要
广义零样本学习(GZSL)是学习分类器的问题,其中某些类有样本,而其他类以零样本学习(ZSL)方式从侧信息(如语义属性或文本描述)中学习。训练一个同时在两种机制下运行的单一模型具有挑战性。本文描述一种概率方法,将模型分解为三个模块化组件,再以一致方式组合。具体而言,我们的模型包含三个分类器:一个对样本是否来自“已见”类做出软决策的“门控”模型,以及两个专家:一个 ZSL 专家和一个已见类专家模型。我们解决了该方法的两个主要困难:如何在不依赖未见类训练样本的情况下准确估计门控概率;以及当专家观察到其领域外样本时如何使用其预测。我们方法的关键洞见是在三个模型间传递信息以提升各自准确性,同时保持模块化结构。我们在四个标准 GZSL 基准数据集上测试了我们的方法——自适应置信度平滑(COSMO),发现其大幅优于最先进的 GZSL 模型。COSMO 也是首个缩小差距并超越生成式 GZSL 模型性能的模型,尽管它是更轻量、更易训练与调参的模型。值得注意的是,COSMO 为开发零样本模型提供了新视角。得益于其模块化结构,模型无需试图在已见与未见类上都表现良好,而可专注于未见类的准确分类,再考虑已见类模型。
引用
@article{arxiv.1812.09903,
title = {Adaptive Confidence Smoothing for Generalized Zero-Shot Learning},
author = {Yuval Atzmon and Gal Chechik},
journal= {arXiv preprint arXiv:1812.09903},
year = {2019}
}
备注
(1) Accepted to CVPR 2019. (2) Previous title was "Domain-Aware Generalized Zero-Shot Learning". (3) This arxiv version is as the CVPR final version with the following modifications: (a) corrected typos found in Table 3 (b) updated "Related Work" with [52, 10, 20] (c) add a paragraph to the abstract (d) add a probabilistic explanation for the smoothing term