通过自监督层次任务聚类解耦少样本文本分类中的任务关系
计算与语言
2022-11-17 v1 机器学习
摘要
少样本文本分类(FSTC)通过利用历史任务的先验知识,模仿人类以极少样本高效学习新文本分类器。然而,多数先前工作假设所有任务采样自单一数据源,无法适应任务异构且分布于不同分布的真实场景。因此,现有方法可能因全局知识共享机制而难以处理任务异构性。另一方面,内在任务关系未被显式捕获,致使任务知识无组织且难以迁移至新任务。为此,我们探索一种新 FSTC 设定,其中任务可来自多样化数据源。为应对任务异构性,我们提出自监督层次任务聚类(SS-HTC)方法。SS-HTC 不仅通过将异构任务动态组织至不同层次簇中定制簇特定知识,还解耦任务间潜在关系以提升可解释性。在五个公开 FSTC 基准数据集上的大量实验证明了 SS-HTC 的有效性。
引用
@article{arxiv.2211.08588,
title = {Disentangling Task Relations for Few-shot Text Classification via Self-Supervised Hierarchical Task Clustering},
author = {Juan Zha and Zheng Li and Ying Wei and Yu Zhang},
journal= {arXiv preprint arXiv:2211.08588},
year = {2022}
}