充分利用任务信息提升少样本文本分类的元学习
计算机视觉与模式识别
2024-10-15 v1
摘要
元学习已成为少样本文本分类的突出技术，并取得了令人期待的性能。然而，现有方法常在从 support set 样本中准确绘制类原型时遇到困难，主要由于类内差异可能较大且类间差异较小。最近的做法尝试引入外部知识或预训练语言模型来增强数据，但需要额外资源，因此不适用于许多少样本场景。在本文中，我们提出一种新方法，通过充分利用任务自身的信息来解决此问题。具体而言，我们利用标签信息构建任务自适应度量空间，从而自适应地减小类内差异并放大类间差异。进一步，我们采用最优传输技术估计包括 query set 样本在内的类原型，以缓解因类内差异较大而导致的 support set 样本不准确和模糊的问题。我们在八个基准数据集上进行了广泛实验，结果表明，我们的方法在所有数据集上的所有任务上均显著优于当前最先进的模型。为可重复性，所有数据集和代码均已提供于 https://github.com/YvoGao/LAQDA。
引用
@article{arxiv.2410.10454,
title = {Improve Meta-learning for Few-Shot Text Classification with All You Can Acquire from the Tasks},
author = {Xinyue Liu and Yunlong Gao and Linlin Zong and Bo Xu},
journal= {arXiv preprint arXiv:2410.10454},
year = {2024}
}
备注
Accepted by EMNLP 2024 Findings