中文

打破链条:LLM 对中间结构忠诚性的因果分析

人工智能 2026-03-18 v1

摘要

模式导向的推理管道要求 LLM 在作出最终决策前生成显式的中间结构 -- 如评估表、检查清单、验证查询等。但这些结构是否因果决定输出,还是仅与之并存?我们引入一种因果评估协议,使其可直接测量:通过选择确定性函数将中间结构映射到决策的任务,每次受控编辑都意味着唯一正确的输出。在八个模型和三个基准上,模型对自身中间结构表现出自洽性,但在对中间结构进行干预后,却在高达 60% 的情况下未能更新预测——这揭示了表面上的忠诚性一旦中间结构改变便极其脆弱。当最终决策的推导委托给外部工具时,这种脆弱性大幅消失;但即使要求优先考虑中间结构而非原始输入的提示,也未能显著缩小差距。总体而言,模式导向管道中的中间结构功能更像是具有影响力的上下文,而非稳定的因果中介者。

关键词

引用

@article{arxiv.2603.16475,
  title  = {Breaking the Chain: A Causal Analysis of LLM Faithfulness to Intermediate Structures},
  author = {Oleg Somov and Mikhail Chaichuk and Mikhail Seleznyov and Alexander Panchenko and Elena Tutubalina},
  journal= {arXiv preprint arXiv:2603.16475},
  year   = {2026}
}

备注

17 pages, 4 figures, 5 tables