用于部署后改进GPT-3的记忆辅助提示编辑
计算与语言
2023-02-21 v7
摘要
GPT-3等大型语言模型（LM）能力强大，但会犯人类显而易见的错误。例如，GPT-3会将“哪个词与good相似？”误判为同音词，而用户本意是同义词。我们的目标是通过用户与系统的交互有效纠正此类错误，且无需重新训练（重新训练成本高得 prohibitive）。我们将GPT-3与一个不断增长的记忆配对，该记忆记录模型误解用户意图的案例以及用户用于澄清的反馈。这种记忆使我们的系统能基于过去类似案例的错误纠正反馈，为任何新查询生成增强的提示。在四项任务（两项词汇任务，两项高级伦理推理任务）上，我们展示了一个（模拟）用户如何交互式地教导已部署的GPT-3，使其在面对GPT-3不同类型误解的查询时准确率大幅提升。我们的方法是迈向极大型预训练LM低成本效用增强的一步。用于新任务实现MEMPROMPT的代码、数据和说明见 https://www.memprompt.com/。
引用
@article{arxiv.2201.06009,
title = {Memory-assisted prompt editing to improve GPT-3 after deployment},
author = {Aman Madaan and Niket Tandon and Peter Clark and Yiming Yang},
journal= {arXiv preprint arXiv:2201.06009},
year = {2023}
}
备注
EMNLP 2022. This version updates the title to be consistent with EMNLP camera ready