UPAR：一种受康德哲学启发的增强大语言模型能力的提示框架
计算与语言
2023-12-08 v2 人工智能
摘要
大语言模型（LLMs）已展现出令人印象深刻的推理能力，众多研究致力于通过提示（prompting）增强这一能力。尽管有这些努力，一个统一的认知论基础仍明显缺失。受康德先验哲学启发，我们提出 UPAR 提示框架，旨在于 LLM 内模拟人类认知结构。UPAR 框架划分为四个阶段：“理解（Understand）”、“规划（Plan）”、“行动（Act）”和“反思（Reflect）”，能够从复杂语境中提取结构化信息、预先规划解决方案、依计划执行并自我反思。该结构显著增强了 LLM 推理的可解释性与准确性，产生人类可理解且可检视的推理轨迹。此外，我们的工作为现有提示技术提供了认知论基础，使这些方法可能的系统性整合成为可能。借助 GPT-4，我们的方法在 GSM8K 的一个困难子集上将准确率从 COT 基线的 22.92% 提升至 58.33%，在因果判断任务中从 67.91% 提升至 75.40%。在不使用少样本示例或外部工具的情况下，UPAR 在包含大学水平数学、化学和物理科学问题的困难数据集 SCIBENCH 上显著优于现有提示方法。
引用
@article{arxiv.2310.01441,
title = {UPAR: A Kantian-Inspired Prompting Framework for Enhancing Large Language Model Capabilities},
author = {Hejia Geng and Boxun Xu and Peng Li},
journal= {arXiv preprint arXiv:2310.01441},
year = {2023}
}