重新思考 ChatGPT 成功：自回归 LLM 提示的可用性与认知行为
计算与语言
2024-05-20 v1
摘要
过去十年间，针对大型语言模型（LLM）的各种训练和部署策略涌现。其中，自回归 LLM（AR-LLM）的提示范式催化了人工智能（AI）的显著增长。本文旨在强调利用自由形式模式（输入和输出形式）和言语自由形式上下文作为用户导向通道（用于转换模式的方法）进行下游部署的重要性。具体而言，我们分析了两种 LLM 类型和六个任务特定通道在部署中的模式结构。从用户的角度，我们的分析引入并应用了任务可定制性、透明度和复杂度三个分析指标来衡量其可用性，突出了 AR-LLM 提示范式的优越性。此外，我们检查了通过采用自由形式文本和言语上下文来激发 LLM 中多样化认知行为，这种方式模仿人类对此类认知行为的语言表达。我们随后详述了四种常见的认知行为，以强调 AR-LLM 提示如何成功地通过这种自由模式和通道来模拟人类式的行为。最后，通过认知行为概念和原则，识别了提升 LLM 部署——作为自主代理以及在多代理系统中——的潜力。
引用
@article{arxiv.2405.10474,
title = {Rethinking ChatGPT's Success: Usability and Cognitive Behaviors Enabled by Auto-regressive LLMs' Prompting},
author = {Xinzhe Li and Ming Liu},
journal= {arXiv preprint arXiv:2405.10474},
year = {2024}
}