指导即所需：基于温度引导的大语言模型推理
计算与语言
2024-12-11 v1 人工智能
机器学习
摘要
我们提出了 Quasar-1，一种通过 Token Temperature Mechanism（TTM）和 Guided Sequence of Thought（GSoT）在大语言模型中引入温度引导推理的新型架构。我们的方法利用热令牌与冷令牌的概念，其中热令牌因其上下文相关性而被优先处理，冷令牌则提供补充信息。这种令牌重要性的动态调节使模型相较于传统的思维链方法实现了更优的逻辑推理能力。通过严格的数学分析，我们证明了温度引导注意力机制以指数级保证收敛至最优推理路径。实验结果表明，该方法在广泛的任务中显著提升了推理准确率与计算效率，使先进 AI 推理适用于更广泛的应用场景。
引用
@article{arxiv.2412.06822,
title = {Guidance is All You Need: Temperature-Guided Reasoning in Large Language Models},
author = {Eyad Gomaa and Gomaa Salah},
journal= {arXiv preprint arXiv:2412.06822},
year = {2024}
}