克服提示扰动敏感性的零样本方法
计算与语言
2023-07-04 v2 人工智能
摘要
最近的研究表明，自然语言提示有助于利用预训练语言模型学到的知识来完成句子级二分类情感分类任务。具体而言，这些方法利用少样本学习设置，使用手动或自动生成的提示对情感分类模型进行微调。然而，这些方法的性能对所用提示的扰动较为敏感。此外，这些方法依赖于少量标注实例来进行自动提示生成与提示排序。本研究旨在以零样本设置寻找给定任务的高质量提示。给定基础提示，我们提出的方法采用位置、推理和改写技术自动生成多个与基础提示相似的提示，随后使用一种新颖的度量对提示进行排序。我们通过实证表明，排名靠前的提示质量高，并且在句子级二分类情感分类任务中显著优于基础提示以及使用少样本学习生成的提示。
引用
@article{arxiv.2305.15689,
title = {Zero-shot Approach to Overcome Perturbation Sensitivity of Prompts},
author = {Mohna Chakraborty and Adithya Kulkarni and Qi Li},
journal= {arXiv preprint arXiv:2305.15689},
year = {2023}
}