面向在线推荐系统时变数据分布适应的未来梯度下降方法
机器学习
2022-09-05 v1 人工智能
摘要
学习在线推荐模型的关键挑战之一是时域偏移,它导致训练与测试数据分布失配,从而产生域泛化误差。为克服该问题,我们提出学习一个元未来梯度生成器,用于预测未来数据分布的梯度信息以进行训练,从而使得推荐模型能够如同预见其部署未来一般被训练。与广泛使用的 Batch Update 范式相比,我们的理论表明所提算法在局部 regret 中以梯度变化项度量的时域泛化误差更小。我们通过与多种代表性基线比较展示了其实证优势。
引用
@article{arxiv.2209.01143,
title = {Future Gradient Descent for Adapting the Temporal Shifting Data Distribution in Online Recommendation Systems},
author = {Mao Ye and Ruichen Jiang and Haoxiang Wang and Dhruv Choudhary and Xiaocong Du and Bhargav Bhushanam and Aryan Mokhtari and Arun Kejariwal and Qiang Liu},
journal= {arXiv preprint arXiv:2209.01143},
year = {2022}
}