APT-Pipe:一种用于社交数据标注的 ChatGPT 提示调优工具
计算与语言
2024-02-21 v4
摘要
最近的研究强调了大型语言模型(LLM)应用(如 ChatGPT)在执行社交计算文本标签标注方面的潜力。然而,众所周知,其性能取决于输入提示的质量。为解决这一问题,大量研究致力于提示调优,即试图提高提示质量的技术和指南。然而,这些方法主要依赖人工努力和对待标注数据集的先验知识。为克服这一局限,我们提出了 APT-Pipe,一种自动化提示调优流水线。APT-Pipe 旨在自动调优提示,以提升 ChatGPT 在任意给定数据集上的文本分类性能。我们实现了 APT-Pipe 并在十二个不同的文本分类数据集上进行了测试。我们发现,经 APT-Pipe 调优的提示帮助 ChatGPT 在十二个实验数据集中的九个上实现了更高的加权 F1 分数,平均提升了 7.01%。我们进一步通过展示其如何扩展以支持额外的调优机制,突出了 APT-Pipe 作为框架的灵活性。
引用
@article{arxiv.2402.01697,
title = {APT-Pipe: A Prompt-Tuning Tool for Social Data Annotation using ChatGPT},
author = {Yiming Zhu and Zhizhuo Yin and Gareth Tyson and Ehsan-Ul Haq and Lik-Hang Lee and Pan Hui},
journal= {arXiv preprint arXiv:2402.01697},
year = {2024}
}
备注
Accepted by WWW 2024; Camera-ready version