如何重训练推荐系统?一种序列元学习方法
信息检索
2021-01-15 v1
摘要
实际推荐系统需要定期重训练,以用新的交互数据刷新模型。为追求高模型保真度,通常希望在历史和新的数据上重训练模型,因为这能兼顾长期和短期用户偏好。然而,完整的模型重训练可能非常耗时和耗内存,尤其当历史数据规模很大时。在本工作中,我们研究推荐系统的模型重训练机制,这是一个具有高实用价值但在研究界相对少被探索的主题。我们的第一个信念是,在历史数据上重训练模型是不必要的,因为模型此前已在上面训练过。然而,仅在新数据上正常训练容易引发过拟合和遗忘问题,因为新数据规模较小且包含较少长期用户偏好信息。为解决这一困境,我们提出一种新的训练方法,旨在通过学会迁移过往训练经验,在重训练时弃用历史数据。具体而言,我们设计了一个基于神经网络的迁移组件,将旧模型转换为专为未来推荐定制的新模型。为学好该迁移组件,我们优化“未来表现”——即下一时间段评估的推荐准确度。我们的序列元学习(SML)方法提供了一种适用于任何可微分模型的通用训练范式。我们在矩阵分解上演示 SML,并在两个真实数据集上实验。实证结果表明,SML 不仅实现显著加速,且在推荐准确度上优于完整模型重训练,验证了我们所提方法的有效性。我们在 https://github.com/zyang1580/SML 发布代码。
引用
@article{arxiv.2005.13258,
title = {How to Retrain Recommender System? A Sequential Meta-Learning Method},
author = {Yang Zhang and Fuli Feng and Chenxu Wang and Xiangnan He and Meng Wang and Yan Li and Yongdong Zhang},
journal= {arXiv preprint arXiv:2005.13258},
year = {2021}
}
备注
Appear in SIGIR 2020