流式批处理下的思维链提示:一项案例研究
机器学习
2023-06-02 v1 人工智能
计算与语言
摘要
近来,大语言模型(LLM)已展现出非凡能力。思维链(CoT)被提出作为辅助LLM执行复杂推理的一种方法。然而,开发有效提示可能是具挑战且费力的任务。许多研究提出了从测试数据自动构建CoT的方法。其中多数假设所有测试数据在测试前可见,且仅选取一小子集生成原理,这是一不现实的假设。本文呈现一项关于在流式设置下如何利用批处理数据构建并优化思维链提示的案例研究。
引用
@article{arxiv.2306.00550,
title = {Chain-Of-Thought Prompting Under Streaming Batch: A Case Study},
author = {Yuxin Tang},
journal= {arXiv preprint arXiv:2306.00550},
year = {2023}
}