超越输出批判：基于任务蒸馏的自我纠错
人工智能
2026-02-03 v1 计算与语言
摘要
大型语言模型 (LLM) 展示了有前景的自我纠错能力，通过迭代细化可提高生成响应的质量。然而，大多数现有方法仅在输出层面进行批判，仅修补表面错误，却常常无法纠正更深层的推理缺陷。我们提出 SELF-THOUGHT 框架，引入任务抽象的中间步骤，以便在解决方案细化之前进行抽象。给定输入和初始响应，模型首先将任务蒸馏到结构化模板中，该模板捕获关键变量、约束和问题结构。这种抽象随后指导解决方案实例化，将后续响应置于更清晰的任务理解之下，从而减少误差传播。关键的是，我们展示这些抽象可以在模型之间转移：由更大模型生成的模板可作为更小 LLM 的结构化指南，而这些模型通常在内在自我纠错方面存在困难。通过重用蒸馏后的任务结构，较小的模型无需进行大量微调或依赖外部验证器，即可实现更可靠的细化。跨越多样化推理任务的实验表明，SELF-THOUGHT 能提高准确率、鲁棒性和泛化能力，为构建更可靠的自纠错语言系统提供可扩展的路径。
引用
@article{arxiv.2602.00871,
title = {Beyond Output Critique: Self-Correction via Task Distillation},
author = {Hossein A. Rahmani and Mengting Wan and Pei Zhou and Longqi Yang and Nick Craswell and Emine Yilmaz and Sujay Kumar Jauhar},
journal= {arXiv preprint arXiv:2602.00871},
year = {2026}
}