探索意图分类的零样本与少样本技术
计算与语言
2023-05-15 v1 人工智能
摘要
对话式 NLU 提供商经常需要扩展到数千个意图分类模型，而新客户常面临冷启动问题。扩展到如此多的客户也对存储空间施加了限制。在本文中，我们在这种低资源约束下探索了四种不同的零样本和少样本意图分类方法：1) 领域自适应，2) 数据增强，3) 使用描述大语言模型（LLM）的零样本意图分类，以及 4) 指令微调语言模型的参数高效微调。我们的结果表明，所有这些方法在低资源设置下都不同程度地有效。在 Flan-T5（Chang 等人，2022）上使用 T-few 方案（Liu 等人，2022）进行参数高效微调即使每意图仅一个样本也产生最佳性能。我们还展示了使用意图描述提示 LLM 的零样本方法
引用
@article{arxiv.2305.07157,
title = {Exploring Zero and Few-shot Techniques for Intent Classification},
author = {Soham Parikh and Quaizar Vohra and Prashil Tumbade and Mitul Tiwari},
journal= {arXiv preprint arXiv:2305.07157},
year = {2023}
}
备注
ACL 2023 Industry Track. 8 pages, 2 figures, 5 tables