面向不确定性的结构化LLM推理的分布式能量基模型
机器学习
2026-05-20 v1 人工智能
摘要
当大语言模型产生结构化输出（如旅行计划、代码解决方案或多步骤证明）时，individual reasoning steps may appear correct while the output as a whole violates budgets, fails test cases, or contradicts earlier deductions. 我们提出一种分解能量函数，将学习的质量评分器与确定性分析约束惩罚结合，用于验证结构化LLM输出。质量评分器是单个冻结编码器上的低秩适配器异构集团(占可训练参数仅3%)；集团均值排序候选者，标准偏差量化认识不确定性，驱动两遍推理循环触发针对性重生成或放弃。在五个基准( GSM8K、MuSR、TravelPlanner、TACO、Knights & Knaves)上，我们1.49亿参数的验证器编排7-26B开源生成器，在每个基准上超越单次Qwen-72B，匹配Claude Sonnet 4.6在MuSR(67.7% vs. 68.0%)，并在TravelPlanner上将约束违规降低53%(oracle 0.028, random 0.231)。两种方法互补：结构化验证在约束可检查时获胜(验证器捕获信号前沿模型无法自检)，而预训练规模的先验在不可检查时获胜(叙事推理、代码语义)。跨数据集的confounding analysis确认在四个推理任务中真正的质量判别，并在代码任务中识别出模型标识捷径，通过最后一层重新训练加以缓解。在困难数据上训练的评分器实现零样图迁移：在GSM8K上实现93.9%的准确率，无需看到数学问题。
引用
@article{arxiv.2605.18871,
title = {Distributional Energy-Based Models for Uncertainty-Aware Structured LLM Reasoning},
author = {Shireen Kudukkil Manchingal and Abhey Kalia and Fernanda Gonçalves and Shebin Rawther},
journal= {arXiv preprint arXiv:2605.18871},
year = {2026}
}