MindGYM：思维中心微调中问题合成什么最重要？
计算机视觉与模式识别
2025-10-31 v3 人工智能
计算与语言
摘要
大型基础模型在获取可迁移的结构化思维能力方面面临挑战，尤其是在使用刚性模板或众包标注指令数据集进行监督时。与先前方法不同，我们聚焦于一种以思维为中心的数据合成范式，使模型能够通过自生成的认知引导数据实现进化。我们提出 MindGYM，一个结构化且可扩展的问题合成框架，由以下部分组成：（1）认知思维过程注入，注入高层推理目标以塑造模型的合成行为；（2）种子单跳问题合成，从多样语义类型生成原子问题以鼓励更广泛的思维；（3）挑战性多跳问答合成，基于问答种子组合更复杂的多跳问题以实现更深层推理。详细分析表明，我们方法生成的合成数据平均质量比基线来源高 16.7%，质量方差低 67.91%，表明高质量和自包含的数据对于有效的思维导向微调至关重要。MindGYM 在六个推理基准上提升了性能，仅用 400 个数据样本在 MathVision 上实现了高达 16% 的提升，并在不同模型规模和架构上实现了可泛化的改进。MindGYM 强调了自挑战机制在精炼大型模型能力方面的可行性，同时最小化人工干预和资源需求。代码和数据已发布，以推动以数据为中心的研究，探索由内部推理能力驱动的自进化基础模型。
引用
@article{arxiv.2503.09499,
title = {MindGYM: What Matters in Question Synthesis for Thinking-Centric Fine-Tuning?},
author = {Zhe Xu and Daoyuan Chen and Zhenqing Ling and Yaliang Li and Ying Shen},
journal= {arXiv preprint arXiv:2503.09499},
year = {2025}
}
备注
Accepted by NeurIPS'25. 30 pages, 2 figures, 13 tables