中文

GTS-LUM:用LLM重塑电信行业用户行为建模

机器学习 2025-04-10 v1

摘要

随着电信服务提供商转向分析用户行为以进行套餐设计和营销干预,关键挑战在于开发一个统一、端到端的框架,能够建模具有多样化时间粒度、多模态数据输入和异构标签的长期和周期性用户行为序列。本文介绍了GTS-LUM,一种重新定义电信领域建模范式的用户行为模型。GTS-LUM采用(多模态)编码器-适配器-LLM解码器架构,并增强了若干电信领域特定创新。具体而言,模型包含处理不同时间粒度的高级时间戳方法。它支持多模态数据输入——包括结构化表格和行为共现图——并通过带Q-former结构的标记化器提取的语义信息与之对齐。此外,GTS-LUM集成了前置的目标感知机制,以突出与目标最相关的历史行为。大量实验表明,本端到端框架有效且表明GTS-LUM优于热门于推荐系统中使用的LLM4Rec方法,为电信领域的用户行为建模提供了有效且可泛化的解决方案。

关键词

引用

@article{arxiv.2504.06511,
  title  = {GTS-LUM: Reshaping User Behavior Modeling with LLMs in Telecommunications Industry},
  author = {Liu Shi and Tianwu Zhou and Wei Xu and Li Liu and Zhexin Cui and Shaoyi Liang and Haoxing Niu and Yichong Tian and Jianwei Guo},
  journal= {arXiv preprint arXiv:2504.06511},
  year   = {2025}
}