超越示例：基于 MCTS 的高级自动推理范式在原地学习中
计算与语言
2025-06-03 v2
摘要
原地学习 (ICL) 通过高级提示和高质量演示使大型语言模型 (LLM) 能够完成下游任务。然而，传统的 ICL 框架在复杂推理任务中面临显著局限，主要源于对示例质量的依赖以及缺乏明确的推理指导。为此，我们提出 HiAR-ICL，即 **Hi**gh-level **A**utomated **R**easoning 在 **ICL** 中的范式，将注意力从具体示例转向抽象推理模式，从而扩展了 ICL 中“上下文”的常规概念。我们的 метод以五个原子推理动作为基础，运用蒙特卡津树搜索系统构建高级推理模式。在推理过程中，HiAR-ICL 根据问题属性动态选择合适的推理模式，为模型的推理过程提供明确指导。实验表明，HiAR-ICL 在有效性和效率方面均表现出色：仅使用 200 个先前样本，即可在 Qwen2.5-7B-Instruct 上实现 MATH 数据集上 80.6% 的准确率，AMC 上 62.5% 的准确率，分别超过 GPT-4o 的 77.2% 和 57.5%。该方法在不同模型规模之间提升了性能，同时在不同领域中实现了有效泛化。进一步分析表明，HiAR-ICL 还可作为一种即插即用的推理方法，与后训练技术如 GRPO 兼容。代码和数据已提供于 https://github.com/jinyangwu/HiARICL。
引用
@article{arxiv.2411.18478,
title = {Beyond Examples: High-level Automated Reasoning Paradigm in In-Context Learning via MCTS},
author = {Jinyang Wu and Mingkuan Feng and Shuai Zhang and Feihu Che and Zengqi Wen and Chonghua Liao and Jianhua Tao},
journal= {arXiv preprint arXiv:2411.18478},
year = {2025}
}