结合正强化的元认知增强少样本提示
计算与语言
2023-12-27 v2 人工智能
摘要
少样本提示通过在输入中为大型语言模型提供少量示例来激发其卓越能力。然而,将所有示例输入-输出对一次性提供给大型语言模型的传统方法,可能无法有效引导大型语言模型学习特定的输入-输出映射关系。在本文中,受元认知在学生学习中调节和支持作用的启发,我们提出了一种新颖的元认知增强少样本提示,引导大型语言模型反思其思维过程,从而全面学习给定的示例。此外,考虑到正强化能够提高学生的学习动机,我们将正强化引入元认知增强少样本提示中,通过提供基于响应的正反馈来促进大型语言模型的少样本学习。在两个真实世界数据集上的实验结果表明,我们结合正强化的元认知增强少样本提示在分类准确率和宏 F1 上均超越了传统少样本提示。
引用
@article{arxiv.2312.08642,
title = {Metacognition-Enhanced Few-Shot Prompting With Positive Reinforcement},
author = {Yu Ji and Wen Wu and Yi Hu and Hong Zheng and Liang He},
journal= {arXiv preprint arXiv:2312.08642},
year = {2023}
}
备注
5 pages, 4 figures, 2 tables