CoT-X：面向跨模型链律传递与优化的自适应框架
人工智能
2025-12-03 v2
摘要
链律推理 (Chain-of-Thought, CoT) 增强了大语言模型 (LLMs) 的问题解决能力，但导致巨大的推理开销，限制了在资源受限的环境中的部署。本文通过一种自适应推理概括框架，探索了在不同规模和架构的模型之间进行高效 CoT 传递。该方法通过语义分段、重要性评分、预算感知的动态压缩和连贯性重构来压缩推理痕迹，在保留关键推理步骤的同时显著减少 token 使用。在 7,501 题医学考试题目（跨越 10 个专业）上的实验显示，准确率比在相同 token 预算下的截断方法高出最高 40%。在 64 对来自 8 个大语言模型（参数规模从 15 亿到 320 亿，包括 DeepSeek-R1 和 Qwen3）的模型对上进行评估，确认了强大的跨模型传递性。此外，一个基于高斯过程的贝叶斯优化模块将评估成本降低 84%，并揭示了模型规模与跨域鲁棒性之间存在一种幂律关系。这些结果表明，推理概括为在计算资源受限的情况下实现高效 CoT 传递提供了一条实用的路径。代码将在论文发表后公开。
引用
@article{arxiv.2511.05747,
title = {CoT-X: An Adaptive Framework for Cross-Model Chain-of-Thought Transfer and Optimization},
author = {Ziqian Bi and Kaijie Chen and Tianyang Wang and Junfeng Hao and Benji Peng and Xinyuan Song},
journal= {arXiv preprint arXiv:2511.05747},
year = {2025}
}
备注
TKDD 2025