LogiCoT:面向逻辑思维链指令微调
计算与语言
2023-10-31 v2 人工智能
摘要
生成式预训练 Transformer 4(GPT-4)展现出令人印象深刻的思维链推理能力。近期关于自指令微调的工作(如 Alpaca)侧重于增强模型的通用能力。这些指令使模型在开放域文本生成和复述等通用任务上达到与 GPT-3.5 相当的性能。然而,它们不足以帮助模型处理复杂推理任务。为弥补这一差距,本文提出 LogiCoT,一个用于逻辑思维链推理的、基于 GPT-4 的新指令微调数据集。我们详述了收集指令以提示 GPT-4 生成思维链推理过程的方法。LogiCoT 作为一个指令集,用于教导模型逻辑推理并激发通用推理技能。
引用
@article{arxiv.2305.12147,
title = {LogiCoT: Logical Chain-of-Thought Instruction-Tuning},
author = {Hanmeng Liu and Zhiyang Teng and Leyang Cui and Chaoli Zhang and Qiji Zhou and Yue Zhang},
journal= {arXiv preprint arXiv:2305.12147},
year = {2023}
}