面向在线点击率预测的跨域终身序列建模

结合终身序列建模（Lifelong Sequential Modeling, LSM）的深度神经网络（DNN）为各大社交媒体平台的推荐系统带来了巨大成功。尽管在特定领域的 LSM 上取得了持续进展，但跨域 LSM 的工作仍然有限，跨域 LSM 需要对目标域和源域的终身序列进行建模。本文提出了终身跨网络（Lifelong Cross Network, LCN），将跨域 LSM 结合起来，以改进目标域中的点击率（Click-Through Rate, CTR）预测。所提出的 LCN 包含一个终身注意力金字塔（Lifelong Attention Pyramid, LAP）模块，该模块由三层级联注意力组成，能够有效地从终身序列中提取相对于候选物品的兴趣表示。我们还提出了跨表示生产（Cross Representation Production, CRP）模块，对跨域表示的学习和对齐施加额外监督，使其能更好地复用于目标域 CTR 预测的学习中。我们在微信视频号工业数据集和基准数据集上进行了大量实验。结果表明，所提出的 LCN 在预测准确性和在线性能方面均优于现有工作。