CoSteer: 基于局部 Delta 引导的协作解码时个人化
计算与语言
2026-02-06 v3 人工智能
摘要
个人化对于适应用户在文化、时间和情境维度上的多样化需求至关重要。虽然现有方法常依赖集中式微调或单一模型中的静态偏好对齐，但难以在资源和隐私受限的个人设备上实现实时和高质量的个人化。为此，我们提出 CoSteer，一个通过解码时适应实现无调谐、实时个人化的协作框架。利用上下文感知和上下文中性局部小模型之间的 logit 差异，CoSteer 引导云端大模型，实现有效的个人化，同时保留大模型的能力。个人化在本地处理，仅将最终 token 发送至云端，保持用户上下文和系统效率。通过广泛的实验，我们展示 CoSteer 生成高质量的个性化内容，确保有效性和计算效率。我们的结果突显其在不同模型和环境下的鲁棒性，确认其在实际场景中的实用性。
引用
@article{arxiv.2507.04756,
title = {CoSteer: Collaborative Decoding-Time Personalization via Local Delta Steering},
author = {Hang Lv and Sheng Liang and Hao Wang and Hongchao Gu and Yaxiong Wu and Wei Guo and Defu Lian and Yong Liu and Enhong Chen},
journal= {arXiv preprint arXiv:2507.04756},
year = {2026}
}