链式防御思维：结构化推理提升大语言模型对参考腐败的鲁棒性
计算与语言
2025-04-30 v1 人工智能
机器学习
摘要
链式思维 (chain-of-thought) rompting 在促进大型语言模型推理能力方面取得了显著成功。本文探讨了这些增强的推理能力如何被利用以提高大型语言模型在非必然是推理任务中的鲁棒性。特别是，我们展示了广泛的大型语言模型通过一种称为链式防御思维 (chain-of-defensive-thought) 的简单方法，在面对参考腐败时表现出显著的鲁棒性，该方法仅需以结构化且具有防御性的推理为示例进行演示。实证结果表明，改进效果尤为显著，尤其考虑到该方法的简单性和适用性。例如，在 Natural Questions 任务中，GPT-4o 的准确率在标准 prompt 下因 1/10 个参考被包含恶意注入攻击而下降至最低 3%。相比之下，采用链式防御思维的 GPT-4o 仍保持约 50% 的准确率。
引用
@article{arxiv.2504.20769,
title = {Chain-of-Defensive-Thought: Structured Reasoning Elicits Robustness in Large Language Models against Reference Corruption},
author = {Wenxiao Wang and Parsa Hosseini and Soheil Feizi},
journal= {arXiv preprint arXiv:2504.20769},
year = {2025}
}