理解 LLM 解释的不确定性：基于推理拓扑的视角

理解大型语言模型（LLM）解释中的不确定性对于评估其忠实性和推理一致性至关重要，从而为LLM针对某一问题输出的可靠性提供洞察。在本工作中，我们提出了一个新颖的框架，通过推理拓扑视角量化LLM解释中的不确定性。通过设计一种结构化引导策略，我们引导LLM将答案的解释构建为图拓扑。该过程将解释分解为与知识相关的子问题和基于拓扑的推理结构，使我们不仅能在语义层面量化不确定性，还能从推理路径进行量化。这进一步为评估知识冗余和提供关于推理过程的可解释洞察带来了便利。我们的方法提供了一种系统的方式来解释LLM推理、分析局限性，并为增强鲁棒性和忠实性提供指导。这项工作开创了在LLM解释中使用图结构不确定性度量的先河，并展示了基于拓扑的量化的潜力。