提示GPT-3以提升可靠性
计算与语言
2023-02-16 v2
摘要
大语言模型（LLM）通过少样本提示展现出令人印象深刻的能力。OpenAI GPT-3等商业化API进一步增加了它们在现实世界语言应用中的使用。然而，如何提升GPT-3的可靠性这一关键问题仍未被充分探索。尽管可靠性是一个宽泛且定义模糊的术语，我们将其分解为对应于现有机器学习安全框架且被广泛认可重要的四个主要方面：泛化性、社会偏见、校准性和事实性。我们的核心贡献是建立简单有效的提示，使GPT-3的可靠性得到提升：1）分布外泛化，2）平衡人口分布并使用自然语言指令减少社会偏见，3）校准输出概率，4）更新LLM的事实知识与推理链。借助恰当的提示，GPT-3在所有这些方面都比小规模的监督模型更可靠。我们发布了所有处理后的数据集、评估脚本和模型预测。我们的系统性实证研究不仅为提示LLM的可靠性提供了新见解，更重要的是，我们的提示策略可帮助实践者更可靠地使用像GPT-3这样的LLM。
引用
@article{arxiv.2210.09150,
title = {Prompting GPT-3 To Be Reliable},
author = {Chenglei Si and Zhe Gan and Zhengyuan Yang and Shuohang Wang and Jianfeng Wang and Jordan Boyd-Graber and Lijuan Wang},
journal= {arXiv preprint arXiv:2210.09150},
year = {2023}
}
备注
ICLR 2023