中文

面向时序预测分析的序列感知因子分解机

机器学习 2019-11-19 v2 信息检索 机器学习

摘要

在定向广告和推荐系统等各类 Web 应用中,可用的类别特征(如产品类型)通常至关重要但十分稀疏。作为被广泛采用的方案,基于因子分解机(FMs)的模型能够建模特征间的高阶交互,从而实现有效的稀疏预测分析。随着 Web 规模数据随时间呈指数级增长,稀疏预测分析不可避免地涉及动态与序列特征。然而,现有基于 FM 的模型假设数据中无时间顺序,无法捕获动态特征内的序列依赖或模式,阻碍了这些方法的性能与适应性。因此,本文提出一种新颖的序列感知因子分解机(SeqFM)用于时序预测分析,其通过充分考察序列依赖的影响来建模特征交互。由于静态特征(如用户性别)与动态特征(如用户交互物品)表达不同语义,我们创新地设计了一种多视图自注意力机制,分别在三个不同视图中建模静态特征、动态特征以及静动态特征间交互的影响。在 SeqFM 中,我们进一步通过共享残差网络将学到的特征交互表示映射到期望输出。为展示 SeqFM 的通用性与可泛化性,我们在基于 FM 模型的三个流行应用场景(即排序、分类与回归任务)中进行了测试。在六个大规模数据集上的大量实验结果证明了 SeqFM 的优越有效性与效率。

关键词

引用

@article{arxiv.1911.02752,
  title  = {Sequence-Aware Factorization Machines for Temporal Predictive Analytics},
  author = {Tong Chen and Hongzhi Yin and Quoc Viet Hung Nguyen and Wen-Chih Peng and Xue Li and Xiaofang Zhou},
  journal= {arXiv preprint arXiv:1911.02752},
  year   = {2019}
}

备注

To appear in ICDE'20, Dallas, Texas, USA. Code link updated