基于分层加权自对比学习的粗粒度监督下细粒度类别发现
计算与语言
2022-10-17 v1 人工智能
机器学习
摘要
新类别发现旨在将已在已知类别上训练的模型适配到新类别。先前工作仅关注已知类别与新类别粒度相同的场景。本文研究一种称为粗粒度监督下细粒度类别发现(FCDC)的新实用场景。FCDC旨在仅利用粗粒度标注数据发现细粒度类别,这能使模型适配于与已知类别粒度不同的类别,并显著降低标注成本。它也是一项具有挑战性的任务,因为在粗粒度类别上的监督训练往往关注类间距离(粗粒度类之间的距离)而忽略类内距离(细粒度子类之间的距离),而后者对分离细粒度类别至关重要。考虑到当前大多数方法无法将知识从粗粒度层级迁移到细粒度层级,我们提出一种分层加权自对比网络,通过构建新颖的加权自对比模块并以分层方式将其与监督学习结合。在公开数据集上的大量实验表明,我们的模型相较对比方法兼具有效性与高效性。代码与数据见 https://github.com/Lackel/Hierarchical_Weighted_SCL。
引用
@article{arxiv.2210.07733,
title = {Fine-grained Category Discovery under Coarse-grained supervision with Hierarchical Weighted Self-contrastive Learning},
author = {Wenbin An and Feng Tian and Ping Chen and Siliang Tang and Qinghua Zheng and QianYing Wang},
journal= {arXiv preprint arXiv:2210.07733},
year = {2022}
}
备注
Accepted by EMNLP 2022