PiERN：面向高精度计算与推理的令牌级路由
机器学习
2026-04-21 v3 计算工程、金融与科学
计算与语言
摘要
复杂系统上的任务需要高精度数值计算来支持决策，但当前的大语言模型（LLM）无法将此类计算作为内在且可解释的能力与现有架构集成。多智能体方法可以利用外部专家，但不可避免地引入通信开销，并因规模受限而导致效率低下。为此，我们提出物理隔离专家路由网络（Physically-isolated Experts Routing Network, PiERN），一种用于集成计算与推理的架构。我们不采用工具使用工作流程或函数调用，而是在分别训练专家、文本到计算模块和路由器之后，PiERN endogenously 将计算能力集成到神经网络中。在推理阶段，路由器在令牌级别引导计算与推理，从而实现单个思考链中的迭代交替。我们对 PiERN 在代表性线性和非线性计算-推理任务上进行评估，与 LLM 微调和多智能体系统方法进行比较。结果表明，PiERN 架构不仅在准确率上优于直接微调 LLM，而且在响应延迟、标记使用和 GPU 能源消耗方面显著优于主流的多智能体方法。PiERN 提供了一种高效、可解释且可扩展的范式，用于将语言模型与科学系统接口。
引用
@article{arxiv.2509.18169,
title = {PiERN: Token-Level Routing for Integrating High-Precision Computation and Reasoning},
author = {Hengbo Xiao and Jingyuan Fan and Xin Tong and Jingzhao Zhang and Chao Lu and Guannan He},
journal= {arXiv preprint arXiv:2509.18169},
year = {2026}
}