利用现成大语言模型进行意图分类的数据增强
计算与语言
2022-04-06 v1 人工智能
摘要
数据增强是缓解数据稀缺问题被广泛采用的技术。本工作中，我们提出一种基于提示的方法，利用现成语言模型（LMs，如 GPT-3）生成带标签的训练数据以用于意图分类。该方法的一个优势是无需为数据生成进行任务特定的 LM 微调；因此该方法无需超参数调优，即便可用训练数据极稀缺也适用。我们在四个不同的意图分类任务上以少样本设置评估所提方法。我们发现，当所考虑的意图彼此足够区分时，GPT 生成的数据显著提升意图分类器性能。在语义相近意图的任务中，我们观察到生成数据帮助较小。我们的分析表明，这是因为 GPT 常生成属于密切相关意图而非目标意图的话语。我们给出初步证据：基于提示的 GPT 分类器可有助于过滤生成数据以提升其质量。
引用
@article{arxiv.2204.01959,
title = {Data Augmentation for Intent Classification with Off-the-shelf Large Language Models},
author = {Gaurav Sahu and Pau Rodriguez and Issam H. Laradji and Parmida Atighehchian and David Vazquez and Dzmitry Bahdanau},
journal= {arXiv preprint arXiv:2204.01959},
year = {2022}
}
备注
Accepted to 4th Workshop on NLP for Conversational AI, ACL 2022