RecGPT-Mobile：面向淘宝信息流推荐中用户意图理解的端侧大语言模型
信息检索
2026-05-07 v1
摘要
在现代电子商务系统中，根据用户近期的交互行为预测其下一次搜索查询是一个关键问题，尤其是在用户意图快速演变的场景下。大语言模型（LLM）提供了强大的语义推理能力，近期已被用于增强下一次查询预测的训练数据构建。然而，由于移动设备上的资源限制，现有应用均部署在云端服务器上，导致推理成本高昂。本文提出 RecGPT-Mobile，这是一个设计轻量级基于 LLM 的意图理解代理的框架，旨在提升移动电子商务场景下的推荐质量。通过将 LLM 直接部署在移动设备上，我们的方法能够更快速地捕捉用户不断演变的兴趣，并实时调整推荐结果。大量的离线分析和在线实验表明，我们的方法显著提升了推荐结果的准确性，为在移动设备的生产级推荐系统中部署 LLM 铺设了实用路径，也为将 LLM 集成至现实世界的下一次查询预测系统提供了可扩展的解决方案。
引用
@article{arxiv.2605.04726,
title = {RecGPT-Mobile: On-Device Large Language Models for User Intent Understanding in Taobao Feed Recommendation},
author = {Bin Zhang and Weipeng Huang and Dimin Wang and Jialin Zhu and Yuning Jiang and Zhaode Wang and Chengfei Lv and Jian Wang and Qichao Ma and Li Chen and Junqing Wu and Yipeng Yu},
journal= {arXiv preprint arXiv:2605.04726},
year = {2026}
}