通过心智模型迈向大语言模型的通用提示
计算与语言
2024-02-29 v1 人工智能
摘要
大语言模型 (LLMs) 在许多任务上展示了令人印象深刻的性能。然而，为了实现最佳性能，仍然需要专门设计的提示方法。这些方法要么依赖于需要一定领域知识的特定任务少样本示例，要么设计得简单但仅在少数类型的任务上表现良好。在这项工作中，我们尝试引入通用提示的概念，其设计原则是在广泛的任务中实现最佳或接近最佳的性能，同时消除针对特定问题手动选择和定制提示的需要。此外，我们提出了 MeMo（心智模型），这是一种创新的提示方法，设计简单却能有效满足通用提示的标准。MeMo 将各种提示方法的核心提炼为独立的心智模型，并允许 LLMs 自主为问题选择最合适的心智模型，在零样本设置下的 STEM、逻辑推理和常识推理等不同任务上达到或接近最先进 (SOTA) 的结果。我们希望此处提出的见解能激发对 LLMs 通用提示方法的进一步探索。
引用
@article{arxiv.2402.18252,
title = {Towards Generalist Prompting for Large Language Models by Mental Models},
author = {Haoxiang Guan and Jiyan He and Shuxin Zheng and En-Hong Chen and Weiming Zhang and Nenghai Yu},
journal= {arXiv preprint arXiv:2402.18252},
year = {2024}
}