SemSup-XC：面向零样本与少样本极端分类的语义监督
计算与语言
2023-06-23 v2
摘要
极端分类（XC）涉及在大量类别（数千至数百万）上进行预测，其现实应用包括新闻文章分类与电商商品标注。该任务的零样本版本要求在不额外监督的情况下泛化至新颖类别。本文中，我们开发了 SemSup-XC 模型，其在源自法律、电商与维基百科数据的三个 XC 数据集上取得了最先进的零样本与少样本性能。为开发 SemSup-XC，我们利用自动收集的语义类别描述来表示类别，并通过一种新颖的混合匹配模块促进泛化，该模块结合语义与词汇相似度将输入实例与类别描述进行匹配。经对比学习训练后，SemSup-XC 显著优于基线，并在所考虑的三个数据集上确立了最先进性能，在零样本上获得高达 12 个精度点的提升，在一次样本测试上获得超过 10 个精度点的提升，recall@10 亦有类似增益。我们的消融研究凸显了混合匹配模块与自动收集类别描述的相对重要性。
引用
@article{arxiv.2301.11309,
title = {SemSup-XC: Semantic Supervision for Zero and Few-shot Extreme Classification},
author = {Pranjal Aggarwal and Ameet Deshpande and Karthik Narasimhan},
journal= {arXiv preprint arXiv:2301.11309},
year = {2023}
}
备注
Published at ICML 2023. V2: camera ready version at ICML 2023