UniGen:基于零样本数据集生成的情感分类通用领域泛化
计算与语言
2024-09-24 v3 人工智能
摘要
尽管预训练语言模型在基于提示的小样本学习中展现出极大的灵活性与通用性,但其存在参数规模庞大且推理适用性有限的问题。近期研究表明,可以将预训练语言模型 (PLM) 用作数据集生成器,并训练一个微小的特定任务模型以实现高效推理。然而,由于它们倾向于生成特定领域的数据集,其对各种领域的适用性受到限制。在这项工作中,我们提出了一种面向通用领域泛化的新方法,该方法生成数据集时不依赖于目标领域。这使得微小任务模型能够泛化到任何共享标签空间的领域,从而增强了数据集生成范式在现实世界中的适用性。我们的实验表明,所提出的方法在使用比 PLM 小数个数量级的参数集的同时,实现了跨各种领域的泛化能力。
引用
@article{arxiv.2405.01022,
title = {UniGen: Universal Domain Generalization for Sentiment Classification via Zero-shot Dataset Generation},
author = {Juhwan Choi and Yeonghwa Kim and Seunguk Yu and JungMin Yun and YoungBin Kim},
journal= {arXiv preprint arXiv:2405.01022},
year = {2024}
}
备注
EMNLP 2024: Camera-ready version