检索与蒸馏：面向在线推荐系统的时间数据漂移无关范式

当前的推荐系统受到严重的时间数据漂移问题的影响，这一问题表现为历史数据分布与在线数据分布之间的不一致。大多数现有模型聚焦于利用更新后的数据，忽略了从漂移数据中可学习的、具有可迁�性的时间数据无关信息。我们提出了“关联的时间不变性定理”，该定理表明：在固定的搜索空间下，数据与搜索空间中数据的关系随时间保持不变。依据这一原理，我们设计了基于检索的推荐系统框架，以从漂移数据中训练数据无关的相关性网络，从而显著提升原始模型在推荐系统中的预测性能。然而，基于检索的推荐模型在在线部署时面临巨大的推理时间成本。为此，我们进一步设计了一个蒸馏框架，可从漂移数据中将相关性网络的信息蒸馏到参数化模块中。蒸馏后的模型可与原始模型并行在线部署，仅增加极少的推理时间。多个真实数据集上的广泛实验表明，我们的框架显著提升了原始模型的性能，有效利用了漂移数据。