ADER:面向会话推荐持续学习的自适应蒸馏样本回放方法
机器学习
2020-07-24 v1 信息检索
机器学习
摘要
由于隐私问题日益受到关注,基于会话的推荐近期获得了越来越多的关注。尽管神经会话推荐器近来取得了成功,它们通常是以离线方式使用静态数据集开发的。然而,推荐需要持续适应以考虑新旧物品与用户,并在实际应用中需要“持续学习”(continual learning)。在此情形下,推荐器利用每个更新周期到达的新数据持续定期更新,且更新后的模型需要在下一次模型更新前为用户活动提供推荐。神经模型持续学习的一个主要挑战是灾难性遗忘,即持续训练的模型遗忘其先前学到的用户偏好模式。为应对该挑战,我们提出一种称为自适应蒸馏样本回放(ADER)的方法,通过周期性地将先前的训练样本(即样本 exemplars)以自适应蒸馏损失回放至当前模型。实验基于最先进的 SASRec 模型,使用两个广泛使用的数据集将 ADER 与若干知名持续学习技术进行基准比较。我们实证表明 ADER 始终优于其他基线,甚至优于在每个更新周期使用全部历史数据的方法。该结果揭示 ADER 是缓解灾难性遗忘问题、构建更真实且可扩展的会话推荐器的一个有前景的方案。
引用
@article{arxiv.2007.12000,
title = {ADER: Adaptively Distilled Exemplar Replay Towards Continual Learning for Session-based Recommendation},
author = {Fei Mi and Xiaoyu Lin and Boi Faltings},
journal= {arXiv preprint arXiv:2007.12000},
year = {2020}
}
备注
Accepted at RecSys 2020