电商推荐系统中的 One4all 用户表征
信息检索
2021-06-02 v1 机器学习
摘要
通过大规模预训练的通用表征学习已在多个机器学习领域展现出有前景的结果。对于电商领域，通用（即一劳永逸）表征的目标是对广泛的下游任务（如用户画像、定向与推荐任务）的高效应用。本文中，我们系统比较了两种学习策略的泛化能力，即通过所提模型 ShopperBERT 的迁移学习与从头学习。ShopperBERT 从两年收集的 0.8B 用户行为中以 79.2M 参数学习九个预训练任务以生成用户嵌入。结果表明，采用我们嵌入方法的 MLP 在六项任务中的五项上优于从头训练的更复杂模型。具体而言，预训练嵌入相对于任务特定监督特征及为冷启动问题学习辅助数据集的强基线具有优势。我们还展示了预训练特征的计算效率与嵌入可视化。
引用
@article{arxiv.2106.00573,
title = {One4all User Representation for Recommender Systems in E-commerce},
author = {Kyuyong Shin and Hanock Kwak and Kyung-Min Kim and Minkyu Kim and Young-Jin Park and Jisu Jeong and Seungjae Jung},
journal= {arXiv preprint arXiv:2106.00573},
year = {2021}
}