CAP-CoT：用于改进大语言模型推理中链式思维的循环对抗提示
人工智能
2026-04-28 v1
摘要
链式思维（CoT）提示方法已成为从大型语言模型（LLM）中激发逐步解答方案的简单且有效的方法。然而，CoT 推理在长期、多步骤问题上的运行结果不稳定，导致相同任务得到不一致的答案。目前大多数研究侧重于改进单个 pass 中的前向推理链，对迭代和对比式纠正的关注较少。为填补这一空白，我们提出了 CAP-CoT，即一种设计用于提高单一部署求解器 CoT 推理准确性和稳定性的循环对抗提示优化框架。在每个循环中，前向求解器生成候选推理链， adversarial challenger 通过针对性错误策略构建符合情境但故意错误的推理链，反馈代理对比这两个链并生成逐步对齐的结构化反馈。该反馈以两个方向关闭优化循环，包括根据 challenger 暴露的错误更新求解器提示符，以及更新 challenger 提示符以在后续循环中生成更具针对性的错误。不同于面向安全的对抗提示（如 jailbreak 或提示注入攻击），我们的对抗组件具有任务语义，旨在暴露推理链中的逻辑漏洞。在六个基准测试和四个 LLM 后端的实验中显示，CAP-CoT 在两个到三个对抗提示优化循环内，能一致地减少跨运行的变异性，同时提高推理准确性和对提示扰动的鲁棒性。
引用
@article{arxiv.2604.23270,
title = {CAP-CoT: Cycle Adversarial Prompt for Improving Chain of Thoughts in LLM Reasoning},
author = {Shuxu Chen and Yitian Zhou and Jiaquan Zhang and Haoyu Bian and Aming Wu and Sungyoung Lee and Chaoning Zhang and Hyundong Shin},
journal= {arXiv preprint arXiv:2604.23270},
year = {2026}
}