Synergy-of-Thoughts：在混合语言模型中激发高效推理
计算与语言
2024-08-27 v4 人工智能
机器学习
摘要
大语言模型（LLMs）在广泛的任务中展现出令人印象深刻的涌现能力，但随之而来的高昂API成本极大地限制了其实际应用。先前的工作如思维链（CoT）和思维树（ToT）主要侧重于提高准确性，却忽视了迅速增长的API成本，这对于解空间巨大的开放式现实任务尤其成问题。受人类认知双过程理论的启发，我们提出“思维协同”（Synergy of Thoughts，SoT），以释放不同规模混合LLMs在高效推理中的协同潜力。默认情况下，SoT使用较小规模的语言模型生成多个低成本的直觉思维，这类似于系统1产生的并行直觉。然后我们设计了一个置信度评估器，对直觉思维进行交叉评估，并引入可控阈值机制来决定它们之间的冲突。如果这些直觉思维存在冲突，SoT将调用大规模语言模型的反思性推理来模拟系统2的干预，从而覆盖直觉思维并纠正推理结果。该框架是模型无关且无需训练的，可以灵活地与各种现成的LLMs一起实现。在六个代表性推理任务上的实验表明，SoT将API成本大幅降低了38.3%-75.1%，同时实现了最先进的推理准确性和解多样性。值得注意的是，在开放式任务上，平均token成本降低高达69.1%。
引用
@article{arxiv.2402.02563,
title = {Synergy-of-Thoughts: Eliciting Efficient Reasoning in Hybrid Language Models},
author = {Yu Shang and Yu Li and Fengli Xu and Yong Li},
journal= {arXiv preprint arXiv:2402.02563},
year = {2024}
}
备注
19 pages, 16 figures, 12 tables