AS-ES 学习：面向小模型中高效的 CoT 学习
计算与语言
2024-03-05 v1
摘要
思维链 (Chain-of-Thought, CoT) 是大型语言模型 (LLM) 中一项关键的新兴能力，尤其是在逻辑推理方面。已有尝试通过从 LLM 生成的 CoT 数据中进行蒸馏，以在小模型中引入此类能力。然而，现有方法通常只是简单地生成并引入更多来自 LLM 的数据，而未能注意到高效利用现有 CoT 数据的重要性。我们在此提出一种新的训练范式——AS-ES (Abstractive Segments - Extractive Segments，生成式片段-抽取式片段) 学习，该范式利用 CoT 中的固有信息进行迭代生成。实验表明，在 MWP 和 PET 摘要等 CoT 密集型任务上，我们的方法超越了直接的 seq2seq 训练，且无需进行数据增强或改变模型本身。此外，我们探讨了小模型在学习 CoT 时效率低下的原因，并解释了 AS-ES 学习有效的原因，为 CoT 的底层机制提供了见解。
引用
@article{arxiv.2403.01969,
title = {AS-ES Learning: Towards Efficient CoT Learning in Small Models},
author = {Nuwa Xi and Yuhan Chen and Sendong Zhao and Haochun Wang and Bing Qin and Ting Liu},
journal= {arXiv preprint arXiv:2403.01969},
year = {2024}
}