RISER:编排潜在推理技能以实现自适应激活引导
人工智能
2026-01-21 v2
摘要
近期关于大语言模型 (LLM) 特定领域推理的工作通常依赖于需要参数更新的训练密集型方法。尽管激活引导已成为一种参数高效的替代方案,但现有方法采用静态、人工的干预,无法适应复杂推理的动态特性。为了解决这一局限性,我们提出了 RISER (Router-based Intervention for Steerable Enhancement of Reasoning),这是一个即插即用的干预框架,能够在激活空间中自适应地引导 LLM 推理。RISER 构建了一个可重用推理向量库,并采用轻量级 Router 为每个输入动态组合这些向量。Router 通过任务级奖励下的强化学习进行优化,以涌现和组合的方式激活潜在认知基元。在七个多样化的基准测试中,RISER 相比基础模型产生了 3.4-6.5% 的平均零样本准确率提升,同时以 2-3 倍更高的 token 效率和稳健的准确率增益超越了 CoT 风格的推理。进一步分析表明,RISER 自主地将多个向量组合成可解释且精确的控制策略,指向更可控和更高效的 LLM 推理。
引用
@article{arxiv.2601.09269,
title = {RISER: Orchestrating Latent Reasoning Skills for Adaptive Activation Steering},
author = {Wencheng Ye and Xiaoyang Yuan and Yi Bin and Pengpeng Zeng and Hengyu Jin and Liang Peng and Heng Tao Shen},
journal= {arXiv preprint arXiv:2601.09269},
year = {2026}
}