用于零样本开放域问答的自提示大语言模型
计算与语言
2024-03-29 v3 人工智能
摘要
开放域问答（ODQA）旨在不显式提供特定背景文档的情况下回答问题。在无可用于训练定制检索-阅读器模型的零样本设定下，该任务尤为具有挑战性。尽管近期的大语言模型（LLM）如 GPT-3 已通过直接提示方法展示了其在零样本 ODQA 中的有效性，这些方法在隐式调用时仍未能充分释放 LLM 的潜力。在本文中，我们提出一种自提示（Self-Prompting）框架，以显式利用编码于 LLM 参数中的海量知识及其强大的指令理解能力。具体而言，我们逐步提示 LLM 从零开始生成多个带有背景段落与解释的伪问答对。这些生成的元素随后被用于上下文学习。实验结果表明，我们的方法在三个广泛使用的 ODQA 数据集上显著超越此前的零样本最优方法，甚至在与各类基于完整训练数据定制的微调模型相比时也取得了相当的性能。我们的代码可在 https://github.com/lockon-n/self-prompting 获取。
引用
@article{arxiv.2212.08635,
title = {Self-Prompting Large Language Models for Zero-Shot Open-Domain QA},
author = {Junlong Li and Jinyuan Wang and Zhuosheng Zhang and Hai Zhao},
journal= {arXiv preprint arXiv:2212.08635},
year = {2024}
}
备注
NAACL 2024