打破链条:LLM 对中间结构忠诚性的因果分析
人工智能
2026-03-18 v1
摘要
模式导向的推理管道要求 LLM 在作出最终决策前生成显式的中间结构 -- 如评估表、检查清单、验证查询等。但这些结构是否因果决定输出,还是仅与之并存?我们引入一种因果评估协议,使其可直接测量:通过选择确定性函数将中间结构映射到决策的任务,每次受控编辑都意味着唯一正确的输出。在八个模型和三个基准上,模型对自身中间结构表现出自洽性,但在对中间结构进行干预后,却在高达 60% 的情况下未能更新预测——这揭示了表面上的忠诚性一旦中间结构改变便极其脆弱。当最终决策的推导委托给外部工具时,这种脆弱性大幅消失;但即使要求优先考虑中间结构而非原始输入的提示,也未能显著缩小差距。总体而言,模式导向管道中的中间结构功能更像是具有影响力的上下文,而非稳定的因果中介者。
引用
@article{arxiv.2603.16475,
title = {Breaking the Chain: A Causal Analysis of LLM Faithfulness to Intermediate Structures},
author = {Oleg Somov and Mikhail Chaichuk and Mikhail Seleznyov and Alexander Panchenko and Elena Tutubalina},
journal= {arXiv preprint arXiv:2603.16475},
year = {2026}
}
备注
17 pages, 4 figures, 5 tables