零样本学习中的类别分布偏移：学习鲁棒表征
机器学习
2024-12-11 v4
摘要
零样本学习方法通常假设部署时遇到的新颖、未见类别与训练集中的类别来自同一分布。然而，真实场景常涉及类别分布偏移（例如人员识别中的年龄或性别），这对依赖训练类别所学表征的零样本分类器提出了挑战。在本工作中，我们提出并分析了一个模型，该模型假设导致偏移的属性事先未知。我们表明在此设定下，标准训练可能导致非鲁棒表征。为缓解此问题，我们开发了一种学习鲁棒表征的算法，其中（a）通过分层采样构建合成数据环境，（b）受分布外问题启发，应用环境平衡惩罚。我们表明，在仿真及真实世界数据集实验中，我们的算法提升了对多样化类别分布的泛化能力。
引用
@article{arxiv.2311.18575,
title = {Class Distribution Shifts in Zero-Shot Learning: Learning Robust Representations},
author = {Yuli Slavutsky and Yuval Benjamini},
journal= {arXiv preprint arXiv:2311.18575},
year = {2024}
}