通过信息论理解大型语言模型中的思维链
计算与语言
2025-07-11 v2 人工智能
机器学习
摘要
大型语言模型通过使用思维链推理在复杂推理任务中展现出了卓越的性能，使模型能够将问题分解为可处理的子任务。然而，现有的CoT评估技术要么需要标注的CoT数据，要么无法准确评估中间推理步骤，导致较高的假阳性率。在本文中，我们通过信息论的视角形式化了LLM中的CoT推理。具体而言，我们的框架量化了每个推理步骤的“信息增益”，从而无需昂贵的标注数据集即可识别LLM中的失败模式。我们通过在玩具算术、GSM8K和PRM800k数据集上的大量实验证明了该方法的有效性，它通过提供对模型在单个子任务上性能的更准确洞察，显著优于现有的基于结果的方法。
引用
@article{arxiv.2411.11984,
title = {Understanding Chain-of-Thought in LLMs through Information Theory},
author = {Jean-Francois Ton and Muhammad Faaiz Taufiq and Yang Liu},
journal= {arXiv preprint arXiv:2411.11984},
year = {2025}
}