用于零样本学习的多样性增强的泛化-专门化平衡方法
计算机视觉与模式识别
2022-10-25 v2 机器学习
摘要
零样本学习(ZSL)旨在将分类能力从已见类迁移到未见类。近期方法已证明泛化与专门化是在 ZSL 中取得良好性能的两个关键能力。然而,仅关注其中一种能力可能导致模型过于泛化而分类能力退化,或过于专门化而无法泛化到未见类。在本文中,我们提出一个端到端网络,称为 BGSNet,它在实例和数据集层面配备并平衡泛化与专门化能力。具体而言,BGSNet 由两个分支组成:泛化网络(GNet),应用情景元学习来学习泛化知识;平衡专门化网络(BSNet),采用多个注意力提取器提取判别性特征并实现实例级平衡。设计了一种新颖的自调整多样性损失来优化 BSNet,以减少冗余并增强多样性。我们进一步提出一种可微分的数据集级平衡,并以线性退火调度更新权重,以模拟网络剪枝,从而获得具有数据集级平衡的 BSNet 最优结构。在四个基准数据集上的实验证明了我们模型的有效性。充分的组件消融证明了整合与平衡泛化和专门化能力的必要性。
引用
@article{arxiv.2201.01961,
title = {Diversity-boosted Generalization-Specialization Balancing for Zero-shot Learning},
author = {Yun Li and Zhe Liu and Xiaojun Chang and Julian McAuley and Lina Yao},
journal= {arXiv preprint arXiv:2201.01961},
year = {2022}
}