压缩因果推理：量化与图检索增强生成对干预性和反事实准确性的影响
人工智能
2025-12-25 v2
摘要
大语言模型中的因果推理，涵盖关联、干预和反事实推理，对于在高风险场景中进行可靠决策至关重要。随着部署转向边缘和资源受限环境，INT8和NF4等量化模型正成为标准配置。然而，精度降低对形式化因果推理的影响尚不清楚。据我们所知，这是首次在Pearl因果阶梯的所有三个层级上系统评估量化效应的研究。使用3000个样本的分层CLadder基准，我们发现Llama 3 8B在量化下的层级准确率基本保持稳定，NF4的整体退化幅度不到百分之一。第2层级的干预性查询对精度损失最为敏感，而第3层级的反事实推理相对稳定，但在对撞偏差和后门调整等查询类型上表现出异质性弱点。在CRASS基准上的实验表明不同精度下性能几乎相同，这表明现有的常识反事实数据集缺乏揭示量化引起的推理漂移所需的结构敏感性。我们进一步使用真实因果图评估图检索增强生成（GraphRAG），观察到NF4干预性准确率持续提升1.7%，部分抵消了压缩相关的退化。这些结果表明，因果推理对四比特量化具有出乎意料的鲁棒性，图结构增强可以有选择地强化干预性推理，而当前的反事实基准未能捕捉更深层的因果脆弱性。本工作提供了压缩因果推理的初步实证图谱，并为部署高效且具有结构支持的因果AI系统提供了实践指导。
引用
@article{arxiv.2512.13725,
title = {Compressed Causal Reasoning: Quantization and GraphRAG Effects on Interventional and Counterfactual Accuracy},
author = {Steve Nwaiwu and Nipat Jongsawat and Anucha Tungkasthan},
journal= {arXiv preprint arXiv:2512.13725},
year = {2025}
}