SpecSteer：高效个性化生成中的局部上下文与全局推理融合
计算与语言
2026-03-18 v1
摘要
实现个性化智能面临核心困境：将用户历史记录发送给集中式大型语言模型会引发隐私顾虑，而本地小型语言模型则缺乏实现高质量生成所需的推理能力。我们的初步研究表明，纯粹的本地增强仍不足以可靠地弥合这一差距。因此，我们提出 SpecSteer，一个非对称协作推理框架，将私有本地上下文与云端规模推理融合。SpecSteer 将协作建模为贝叶斯知识融合，并将具象化解码重新用于分布式对齐协议，形成 Draft-Verify-Recover 管道：本地模型草拟个性化序列；云端通过比例机制进行验证，该机制将推理验证与私有上下文解耦，筛选逻辑缺陷而不接触原始用户上下文； upon 拒绝，恢复机制在纠正期间注入本地意图。实验表明，SpecSteer 成功弥合了推理差距，实现了优异的个性化生成性能，同时相对于标准基准实现了 2.36 倍的加速。
引用
@article{arxiv.2603.16219,
title = {SpecSteer: Synergizing Local Context and Global Reasoning for Efficient Personalized Generation},
author = {Hang Lv and Sheng Liang and Hao Wang and Yongyue Zhang and Hongchao Gu and Wei Guo and Defu Lian and Yong Liu and Enhong Chen},
journal= {arXiv preprint arXiv:2603.16219},
year = {2026}
}