通过自适应因果提示与草图思维去偏大语言模型
计算与语言
2026-01-14 v1 人工智能
摘要
尽管在大语言模型(LLM)的提示方法方面取得了显著进展，例如链式思维(CoT)，现有策略仍存在token使用过度和在多样化推理任务中可迁移性有限等问题。为此，我们提出了结合自适应因果提示与草图思维(ACPS)框架，通过结构因果模型推断查询对其答案的因果效应，并自适应选择合适的干预(即标准前门和条件前门调整)。该设计使ACPS能够在无需任务特定微调的情况下实现跨异构任务的可泛化因果推理。通过用简洁的草图思维取代冗长的CoT，ACPS实现了高效推理，显著降低了token使用量和推理成本。实验在多个推理基准和大语言模型上表明，ACPS在准确率、鲁棒性和计算效率方面均一致优于现有提示基线。
引用
@article{arxiv.2601.08108,
title = {Debiasing Large Language Models via Adaptive Causal Prompting with Sketch-of-Thought},
author = {Bowen Li and Ziqi Xu and Jing Ren and Renqiang Luo and Xikun Zhang and Xiuzhen Zhang and Yongli Ren and Feng Xia},
journal= {arXiv preprint arXiv:2601.08108},
year = {2026}
}
备注
Accepted by Findings of EACL 2026